카카오 김범수가 강조한 ‘AI’, 기술윤리·안정성 두 마리 토끼 잡는다

실시간
뉴스

인터넷

카카오 김범수가 강조한 ‘AI’, 기술윤리·안정성 두 마리 토끼 잡는다

디지털데일리 발행일 2024-01-02 16:39:11

이나연 기자

URL복사

[디지털데일리 이나연 기자] 오픈AI ‘챗GPT’로 인공지능(AI) 열풍이 불었던 2023년에 이어 올해에도 AI가 업계 화두가 될 전망이다. SM엔터테인먼트 인수 과정에서 불거진 주가 시세조종 의혹으로 조직 쇄신에 나선 카카오도 미래 핵심사업 분야로 AI를 선정하고 AI 서비스 개발 및 기술윤리 거버넌스 체계 고도화 두마리 토끼 잡기에 나섰다.

2일 정보기술(IT)업계에 따르면 카카오는 최근 ‘2023 카카오 공동체 기술윤리 보고서’를 처음 발간, 카카오를 비롯한 게임즈·모빌리티·뱅크·브레인·엔터프라이즈·엔터테인먼트·페이 등 주요 계열사들의 기술윤리 주요 성과를 공개했다. 카카오는 지난 2022년 7월 업계 최초로 ‘공동체(그룹) 기술윤리 위원회(이하 위원회)’를 만들었다.

먼저 기술 계열사인 카카오브레인은 기술윤리 관련해 최종 의사결정을 하는 경영진 주도하에 위원회가 기술윤리 관련 리스크 방지를 위한 활동을 지원한다. 위원회는 카카오 인권과 기술윤리팀과의 협업을 통해 윤리 이슈 검토와 자문을 한다.

다만 카카오브레인이 카카오 그룹 AI 사업을 선도하는 전초기지인 만큼, AI 모델 연구는 제약보다 확장에 중점을 두기로 했다. 개발 과정에서 휴먼 인더 루프(Human in the loop)를 통해 윤리적 문제를 해소한다는 목표다. 휴먼 인더 루프는 인간 전문가가 AI 학습 과정 중 중간 결과물을 확인하고 학습 데이터를 조정하는 것을 뜻한다.

책임 있는 AI를 위한 생애주기별 자가점검 도구로선 시스템 개발 과정 및 모델 작동 방식에 대한 세부 정보(팩트시트2)를 정의, 개발 과정에서 발생 가능한 리스크를 식별 및 분석한다. 대규모 언어 생성 모델 ‘코GPT’와 이미지 생성 모델 ‘칼로(Karlo)’ 관련 서비스에선 모델 학습에 클렌징 된 데이터를 사용하고, 프롬프트 금칙어 필터링과 출력물을 자동·육안 확인하고 있다.

카카오브레인은 투명성을 높이기 위한 AI 기술 공개 및 공유도 지속해 왔다. 예컨대, 코GPT 오픈 소스 공개하는 한편, Karlo 오픈 소스와 머신 러닝 앱의 훈련과 추론 연산 최적화 라이브러리 ‘트라이던트(Trident)’ 오픈소스도 공개했다.

또, 카카오모빌리티는 기술윤리 거버넌스를 고도화하기 위해 최고기술책임자(CTO)를 위원장으로 하는 위원회를 구성했다. 이 위원회는 경영진에게 기술윤리 관련 현안을 공유하고 가이드라인을 제시하는 역할을 맡는다.

외부 전문 위원들로 구성된 카카오모빌리티 상생 자문 위원회엔 기술윤리 관련 현안을 공유하는 동시에 외부 전문가들의 의견을 청취함으로써 바람직한 방향성을 설정하도록 했다. 아울러 카카오 인권과 기술윤리팀과의 협업을 통한 기술윤리 체계를 확립하고, 각 개발팀에 전파했다.

기술 투명성을 강화하기 위한 ‘소비자 보호’ 측면에선 지난 2022년 5월 최고경영자(CEO) 직속 ‘이용자 보호 전담 조직’을 설치하고, 이용자 중심 경영 헌장을 발표했다. 같은 해 12월엔 정거래위원회가 주관하고 한국소비자원이 운영하는 소비자중심경영(CCM) 인증도 획득했다.

‘신뢰할 수 있는 기술을 만들기 위한 노력’ 경우, 플랫폼 참여자들이 신뢰할 택시 콜(승객 호출) 매칭 시스템을 구축하기 위해 택시업계를 비롯한 다양한 이해관계자의 의견을 지속 청취했다.

카카오모빌리티는 2023년 주요 택시 단체와 협의를 거쳐 콜 매칭 시 인공지능(AI) 추천과 최단거리 우선 배차를 병행하는 방향으로 시스템을 연내 개편할 예정이다.

아울러 콜 수락률 산정 방식을 고도화하고, 추천 시스템에 영향을 줄 수 있는 요소를 택시 기사가 직접 확인 및 관리할 수 있는 추가 기능도 제공한다. 기술 안정성을 높이기 위해선 재작년 ‘카카오T’ 택시 배차 시스템과 작동 원리에 관한 내용을 홈페이지에 공개했다.

카카오엔터테인먼트는 AI 거버넌스를 구축할 때 다양한 사업을 진행하며 ‘중앙집중화된 거버넌스’와 ‘분산된 거버넌스’를 균형있게 적용하는 것을 목표로 삼았다. 중앙집중화된 거버넌스 역할 주체로는 경영진과 위원회, 정보보호위원회, AI 기술윤리 부서가 있다.

경영진은 카카오엔터의 AI 방향성을 제시하고 최종 의사결정을 내리며, 위원회는 AI 방향성과 관련 이슈 사항에 대한 경영진 자문을 수행한다. AI 방향성과 원칙 일관성과 실적용에 대한 AI 기술윤리부서 자문도 병행한다. 정보보호위원회는 필요할 때 기술윤리 외 대외변수를 확인해 위원회 AI 정책과 진행사항에 대해 지원한다.

AI 기술윤리 부서는 회사의 책임 있는 AI 실행을 위한 원칙을 수립하고 AI 원칙에 따른 실천 방법에 대한 인식을 높이는 역할을 한다. 분산된 거버넌스에선 각 서비스 내 기술윤리 담당자가 설계 시점부터 기술윤리 부서와 상의해 회사 프로세스에 따른 AI 적용을 검토한다.

카카오엔터는 AI 기술 활용 및 검토 증가와 AI 거버넌스 구조에 맞는 새로운 보안 정책 필요성을 확인해 ‘AI 사용보안 가이드’와 ‘OpenAI 정책 가이드’도 수립했다.

검색·추천 서비스 투명성을 높이기 위해선 카카오페이지와 카카오웹툰, 멜론 각 서비스 내 추천 및 랭킹 영역에서 이용자들이 로직을 쉽게 확인하도록 ‘툴팁’을 제공 중이다. 툴팁이란 화면 내 특정 구성 요소를 클릭 또는 터치했을 때 팝업되는 도움말 등 정보를 의미한다.

특히 카카오엔터는 멜론차트의 공정한 운영을 위해 지난 2021년 ‘멜론차트 자문위원회’를 출범한 이래, 정기적인 회의를 통해 ▲차트 어뷰징 대응 방법 ▲출범 음원 사재기 대응 프로세스 정립 및 공개 필요성 ▲차트 진입 필요조건 공개 필요성 ▲메인 톱(TOP) 100 차트 이외 서브 차트 다양화 등과 같은 아젠다를 논의했다.

회의 결과는 카카오엔터 공식 홈페이지에 보고서 형식으로 공개했다. 카카오엔터는 자문회의와 내외부의 의견을 반영해 지난 2023년 10월1일부터 무음 재생 플레이 횟수를 차트 집계에서 제외해 차트 어뷰징을 방지하는 중이다.

한편, 카카오는 경쟁사인 네이버처럼 지난해 대규모 언어 생성 모델인 ‘코GPT 2.0’을 발표할 예정이었으나 완성도 등을 이유로 발표 시기를 미루다 끝내 공개하지 않았다. 카카오는 올해 코GPT 2.0을 카카오톡과 같은 자체 서비스와 연계해 순차적으로 발표할 예정이다.