카카오, UN 회의서 ‘AI·이용자 간 건강한 상호작용 윤리’ 소개

실시간
뉴스

카카오, UN 회의서 ‘AI·이용자 간 건강한 상호작용 윤리’ 소개

디지털데일리 발행일 2024-11-26 09:58:42

이나연 기자

URL복사

UN ‘기업과 인권 포럼’ 참석해 발표…한국인공지능윤리학회와 협의해 기존 AI윤리에 신규 조항도 추가

[디지털데일리 이나연기자] 카카오가 지난 25일 스위스 제네바에서 UN 산하 인권최고대표사무소가 주최하는 제13차 ‘UN 기업과 인권 포럼’에 참석했다고 26일 밝혔다. UN 기업과 인권 포럼은 UN 기업과 인권 이행지침(UNGP) 실행을 강화하기 위해 매년 개최하는 글로벌 포럼이다. 정부를 비롯해 기업, 지역공동체, UN 기구, 인권단체, 학계 등 다양한 이해관계자가 함께한다.

이번에는 각국의 인터넷·정보기술(IT) 전문가 등 약 4000명이 참석했다. 카카오는 첫날 첫 번째 세션인 ‘인공지능(AI) 분야의 책임 있는 비즈니스 행동’에 참여해 ‘AI와 이용자 간 건강한 상호작용 위한 윤리’를 발표하는 시간을 가졌다.

발표를 맡은 하진화 카카오 CA협의체 ESG위원회 그룹기술윤리팀 프로젝트리더는 카카오가 기술기업으로서 이용자의 인권보호를 위한 노력을 다각적으로 소개했다. 특히 ‘카카오 AI 윤리’에 새롭게 추가된 조항을 발표하고 변화하는 기술과 사회 흐름에 발맞추기 위한 활동을 국제 사회와 공유했다.

신규 조항은 ‘이용자 주체성’으로 인간이 AI에 과도하게 의존하는 것을 경계하고 신체적·정신적·사회적 안전을 위협하는 사용이 일어나지 않도록 노력한다는 내용을 담고 있다. 이는 한국인공지능법학회와 협의를 기반으로 결정했다.

카카오는 지난 2018년 1월 국내 기업 중 최초로 ‘알고리즘 윤리헌장’을 발표한 데 이어, 2019년 8월 기술의 포용성, 2020년 7월 아동과 청소년에 대한 보호, 2022년 5월 프라이버시 보호, 총 세 차례에 걸쳐 신규 조항을 추가하는 개정작업을 거쳤다.

2022년 7월 기술윤리를 계열사 전반에 걸쳐 점검하고 기술과 사회가 함께 발전시키는 방안을 고민하기 위해 카카오를 비롯한 주요 계열사가 참여한 ‘공동체 기술윤리 위원회’를 설립했다. 2023년 3월 공동체 기술윤리 위원회는 기존 알고리즘 윤리헌장을 전면 개정해 ‘카카오 그룹의 책임있는 AI를 위한 가이드라인’이란 ‘그룹 AI 윤리 원칙’을 수립했다.

AI 윤리 원칙은 이용자 주체성이라는 이번 조항을 비롯해 ‘포용성’, ‘투명성’, ‘프라이버시’, ‘이용자 보호’ 등 총 10개 원칙으로 구성돼 있다.

신규 조항을 함께 수립한 변순용 한국인공지능윤리학회장(서울교육대 윤리교육학과 교수)는 “이용자 주체성과 안전성을 강조하는 새로운 조항은 AI 기술에 기반한 서비스에서 발생할 수 있는 AI 과의존과 과몰입의 문제를 해소할 수 있는 중요한 대응책이 될 것”이라며 “AI윤리를 강화하려는 카카오의 이러한 노력은 AI분야의 리더로서 수행하는 사회적 책임의 실천으로서 AI 서비스 분야에서 중요한 방향타의 역할을 할 것”이라고 말했다.

이상호 카카오 그룹 기술윤리 소위원회 리더는 “카카오의 AI기반 기술과 서비스가 보다 안전하고 포용적이며 믿을 수 있는 미래를 만들어 나가도록 정책을 가다듬고 적용하는 데에 세심한 노력을 기울일 것”이라고 전했다.