AI로 혐오표현 잡는 네카오…64건 중 삭제·제한 조치 7건

실시간
뉴스

인터넷

AI로 혐오표현 잡는 네카오…64건 중 삭제·제한 조치 7건

디지털데일리 발행일 2024-05-31 18:08:23

이나연 기자

URL복사

한국인터넷자율정책기구 ‘혐오표현 자율정책 가이드라인’ 따른 첫 심의 결과 발표

[디지털데일리 이나연기자] 한국인터넷자율정책기구(KISO)가 네이버와 카카오 등 회원사들을 대상으로 온라인상 게시물과 댓글의 혐오표현을 들여다본 결과, 조사 대상의 약 11%가 삭제 등 제한 조치를 받았다.

31일 KISO 혐오표현심의위원회는 지난 3월15일 ‘혐오표현 자율정책 가이드라인’에 따라 회원사에 게시된 게시물과 댓글 등 64건을 심의한 결과를 발표했다.

이번 심의는 위원회가 출범하고 가이드라인 제정 이후 진행된 온라인 혐오표현에 대한 첫 심의로, 미디어·국어학·사회학·법학 등 관련 전문가 위원들이 숙의 및 의결 과정에 참여했다.

심의 대상은 종교(13건), 출신국가 및 인종(8건), 지역(8건), 성별(13건), 나이(6건), 성적 지향(10건), 장애 및 질병(6건) 총 64건이다. 그 결과, 64건 가운데 7건이 ‘혐오표현에 해당함’을, 44건이 ‘해당없음’ 판단을 받았다.

위원회는 제9조 제1항의 혐오표현에 해당하지는 않지만, 특정 속성을 이유로 집단과 구성원에 대해 ‘비하·조롱하는 표현’ 9건은 개별 회원사가 자율적으로 조치할 수 있도록 조치 여부에 대한 검토를 권고하기로 했다.

표현의 자유가 과도하게 제한되지 않도록 하면서도 비하·조롱하는 표현이 가진 해악의 가능성 등을 고려한 결정이다. 그 외 4건은 심의 요건을 갖추지 못해 각하됐다.

이번 심의 결과에 따라 회원사는 혐오표현 7건에 대해 ▲삭제 또는 해당 표현을 가리거나 노출을 제한하는 등의 조치 ▲경고 문구 및 이용자 주의 문구 등을 표기하는 조치 ▲혐오표현을 제한하거나 그에 준하는 조치 등을 취할 예정이다.

한편, 네이버는 2019년 업계 최초로 인공지능(AI) 기반의 악성 댓글 탐지 ‘클린봇’을 도입했다. 이용자를 보호하기 위해 뉴스, 스포츠, 쥬니버(쥬니어네이버), 카페 등 다양한 영역에서 욕설과 비속어 탐지해 자동으로 블라인드 처리하고 있다.

클린봇은 문맥의 맥락으로 욕설과 저속한 표현뿐 아니라, 선정적·폭력적·차별적·비하적 표현을 유형화한다. 문제 표현을 스스로 학습, 탐지, 필터링하는 기술은 고도화 작업을 통해 네이버 서비스에 확대 적용되고 있다.

카카오도 2020년부터 AI 기반의 ‘세이프봇’ 기능을 선보였다. 현재 포털 다음(Daum) 뉴스나 카카오톡 오픈채팅에 제공된다. 세이프봇은 욕설이나 비속어를 변형한 메시지, 혐오나 증오발언이 포함된 메시지, 카카오톡 운영정책을 위반한 메시지 등 다른 이용자에 불쾌감을 주는 메시지를 자동으로 가린다.