[디지털데일리 백지영기자] 카카오는 인공지능(AI)리스크 관리 체계인 '카카오 세이프티 이니셔티브(이하 카카오 ASI)'를 구축했다고 23일 밝혔다.
카카오 ASI는 기술 개발과 운영 과정에서 발생할 수 있는 리스크(위험)를 사전에 식별하고, 이를 관리하는 프로세스를 정의한 것으로, 안전하고 윤리적인 AI 시스템을 구축하기 위한 종합 지침이다.
특히 기술 설계부터 개발, 테스트, 배포, 모니터링 및 업데이트 등 AI 시스템의 전 생애주기에서 발생할 수 있는 리스크에 선제적인 대응이 가능한 것이 특징이다.
회사는 AI와 인간이 초래할 수 있는 다양한 종류의 리스크를 폭넓게 관리하며, 인간의 부주의나 실수로 발생할 수 있는 영역까지 관리 범위를 포괄적으로 지정했다고 설명했다.
구체적으로는 ▲카카오 AI 윤리 원칙 ▲리스크 관리 사이클 ▲AI 리스크 거버넌스 등 3가지 핵심요소로 구성된다.
카카오 AI 윤리 원칙은 지난 2023년 3월 발표한 '카카오 그룹의 책임 있는 AI를 위한 가이드라인'을 기반으로 하며, 사회 윤리, 포용성, 투명성, 프라이버시, 이용자 보호 등 원칙을 포함한다.
'리스크 관리 사이클'은 리스크를 체계적으로 다루기 위한 접근법으로, 식별-평가-대응의 순환 단계로 구성되며, 'AI 리스크 거버넌스'는 AI 시스템의 개발, 배포, 사용 등을 관리하고 감독하는 의사 결정 체계를 뜻한다.
카카오 ASI 거버넌스는 AI 세이프티, 전사 리스크 관리 전담 조직인ERM 위원회, 최고 의사결정 기구의 3단계로 구성됐다.
앞서 지난 22일 컨퍼런스 세션에 연사자로 나선 카카오 김경훈 AI 세이프티 리더는 "AI 시스템 이용에 따른 리스크의 발생 주체를 AI와 인간으로 구분하고, 발생 주체 별 리스크의 특성을 반영해 평가 및 대응방안을 마련했다는 점이 타사의 AI 리스크 관리 프레임워크와 차별화되는 점"이라고 말했다.
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
[DD퇴근길] LGD, 3분기 체질개선 성공…와디즈, 흑자전환 배경은?
2024-10-23 16:44:12모순된 유료방송 규제완화…‘스키니 번들’ 가능하지만, 불가능? [IT클로즈업]
2024-10-23 13:52:31[국감2024] "네카오도 내는데"…구글, 망 사용료 미지급 도마 위
2024-10-23 09:44:56[콘텐츠뷰] 집단적 광기, 그 끝은 어디로?…넷플릭스 '지옥2'
2024-10-23 07:00:00[DD퇴근길] AI 비서 '카나나', 카톡 대체?…'반도체 위기설' 삼성, 한종희는 침묵
2024-10-22 17:08:39자율주행부터 로봇 배송까지…카카오모빌리티가 그리는 미래 이동 AI는
2024-10-23 17:49:28[DD퇴근길] LGD, 3분기 체질개선 성공…와디즈, 흑자전환 배경은?
2024-10-23 16:44:12[뉴겜] 매드엔진 ‘미드나잇워커스’, 폐쇄된 빌딩서 숨막히는 생존 재미
2024-10-23 15:08:15[IT클로즈업] 대화AI 흔한데…카카오AI 카나나, ‘관계 데이터’ 승부 통할까?
2024-10-23 15:04:46[DD's톡] AI 품은 카카오톡 ‘동생 앱’ 베일 벗었지만…시장은 “글쎄”
2024-10-23 14:54:34웹젠, ‘지스타2024’서 신작 2종 출품… ‘드래곤소드·테르비스’ 공개
2024-10-23 14:53:53