‘욕설 필터링’ 베타서비스…네이버‧카카오는 어떻게 할까?

실시간
뉴스

인터넷

‘욕설 필터링’ 베타서비스…네이버‧카카오는 어떻게 할까?

디지털데일리 발행일 2022-12-01 10:09:38

최민지

URL복사

[디지털데일리 최민지 기자] 네이버와 카카오가 구축한 욕설‧비속어 통합 데이터베이스(DB)가 공개된다. 이를 통해 보다 많은 플랫폼 기업이 혜택을 볼 전망이다.

한국인터넷자율정책기구(이하 KISO)는 인터넷상 욕설·비속어 등을 노출 제한할 수 있도록 하는 ‘KSS’(KISO Safeguard System)를 개발했다고 1일 밝혔다. 이는 다양한 인터넷 서비스에서 욕설·비속어가 노출되는 것을 막기 위해 실시간으로 이를 판별하는 기능을 갖춘 솔루션이다.

KSS는 데이터 분석을 통해 욕설 여부를 판단하며 DB에 포함돼 있으면 변형 욕설도 필터링 가능하도록 설계됐다. KISO는 이를 향후 모니터링 및 분석해 신규 생성되는 욕설에 대해서도 지속적으로 대응한다는 방침이다. 내년 상반기 정식 서비스 예정이며, 본 서비스에 앞서 베타서비스를 진행한다. 이용을 원하는 기업은 KISO에 신청하면 된다.

관련해 KISO는 특별분과 산하 ‘자율규제DB 소위원회’를 통해 네이버와 카카오로부터 제공받은 약 60만건 욕설 DB를 통합했다. 앞서, 양사는 건강한 인터넷 문화 조성과 ESG(환경·사회·지배구조) 경영 활동 일환으로 각사가 축적한 욕설 DB를 KISO에 무상공여한 바 있다.

KISO는 이를 바탕으로 인터넷 기업들이 자율적으로 기술적 보호조치에 활용할 수 있도록 응용프로그램 인터페이스(API)를 최근 개발 완료했다. 기존에는 욕설을 차단하기 위해 개별 업체들이 자체 DB를 구축해야 하고, 지속적인 유지 관리에 많은 비용이 소요돼 중소규모 업체 경우 유사 시스템 구축이 어려웠다.

네이버와 카카오 등 포털 업계는 수년 전부터 댓글 등에 욕설‧비속어 등을 필터링하는 인공지능(AI) 기반의 탐지·차단 프로그램을 자체 개발해 적용해왔다. 이러한 프로그램 도입 이후 실제 악성 댓글이 줄어드는 등 자정 효과가 나타나고 있다.

네이버는 악성댓글을 줄이기 위해 AI 기반으로 자체 개발한 클린봇을 2019년 4월 출시 후 지속 고도화하고 있다. 클리니봇은 스포츠, 뉴스, 연예를 비롯해 밴드 댓글 등 전체게시판형 서비스에 적용됐다. 욕설, 비속어가 들어간 댓글을 탐지해 자동으로 보이지 않게 블라인드 처리한다. 2020년 6월부터는 클린봇 악성 댓글 판단 기준이 욕설 단어에서 문장 맥락을 고려하는 것으로 확대됐다. 비속어를 포함하지 않더라도 모욕 표현, 무례한 댓글 등을 탐지한다.

이를 위해 네이버는 기존의 방대한 악성댓글 데이터를 기반으로 축약어와 오탈자가 많은 구어체 댓글에 대한 정밀 분석을 진행했다. 3가지 레이어를 결합해 모델을 만들고, 자체 개발한 방법을 도입해 악플 탐지 예측 성능을 높였다.

지난해 1월에는 N번방 사건 등 아동·청소년 관련 성범죄, 성착취물 관련 성적 표현에 대한 관리를 강화하기 위해 ‘AI클린봇 2.5’를 도입했다. 성적 수치심이 들 수 있거나, 성범죄(성폭행, 성추행 등)를 옹호하거나 조장하는 표현에 대해서도 필터링 기능을 강화했다.

카카오는 2017년 7월부터 AI를 통해 댓글의 욕설 및 비속어를 필터링하는 ‘욕설 음표 치환 기능’을 채택했다.

이와 함께 카카오는 건강한 댓글 생태계 조성을 위해 2020년 12월, 다른 이용자에게 불쾌감을 줄 수 있는 댓글을 AI 기술로 분석해 자동으로 가림 처리하는 기능인 ‘세이프봇’ 베타 서비스를 시작했다.

댓글이 달리면 세이프봇이 분석해 욕설‧음란‧불법성 내용이 포함된 경우 가림 처리하고 자동으로 신고 처리까지 완료한다. 이후 해당 댓글에는 ‘세이프봇이 자동으로 가린 댓글입니다’라는 메시지를 노출하며, 신고 후 제재 조치까지 완료되면 해당 댓글이 삭제된다. 세이프봇 가리기 적용 대상은 욕설 치환된 단어를 포함한 댓글, 욕설 치환 기능을 회피하기 위해 욕설‧비속어 단어를 변경해 작성한 댓글이다.

이재신 KISO 자율규제DB 소위원회 위원장(중앙대 미디어커뮤니케이션학부 교수)은 “국내 포털 회원사들이 욕설과 같은 비윤리적표현 공동 DB를 구축하는 등 안전한 인터넷 환경조성을 위한 사회적 책임을 실현하고 있다”며 “KISO는 건전한 디지털 이용 환경을 만들고 이용자를 보호하기 위해 다양한 정책을 마련할 것”이라고 말했다.