네이버, 대형참사 인명사고 악플 대응 강화한다

실시간
뉴스

인터넷

네이버, 대형참사 인명사고 악플 대응 강화한다

디지털데일리 발행일 2025-01-24 10:19:45

이나연 기자

URL복사

올 1분기 개발 목표로 ‘클린봇 옵저버’ 고도화…언론 협단체와 참사 보도 관련 기능·정책 논의도

[디지털데일리 이나연기자] 네이버가 ‘클린봇 옵저버’ 기술을 고도화해 대형참사를 포함한 인명사고 보도의 악플 감지와 알림 기능을 강화한다.

24일 정보기술(IT)업계에 따르면 네이버는 올해 1분기 내로 인명사고 탐지 인공지능(AI) 기술을 클린봇 옵저버에 적용해 고도화할 예정이다.

클린봇 옵저버는 악플 작성 시도 비율을 계산해 감지 대상 기사를 자동으로 선별하고, 해당 기사를 언론사에 알려주는 서비스다. 이로써 언론사들은 이전보다 빠르게 댓글 제공 중단 필요성을 확인하고 즉각 중단을 결정할 수 있다.

네이버는 뉴스 댓글 본래 순기능이 강화될 수 있도록, 다양한 운영적, 기술적 보완책을 고민하며 고도화해 왔다. 자살 보도를 탐지해 댓글, 추천 스티커 기능을 제외한 것이 그 사례다. 최근 무안국제공항에서 발생한 제주항공 참사 보도 때도 약 30개 언론사가 네이버 뉴스에서 댓글 제공 중단 기능을 이용한 바 있다.

네이버는 2019년 업계 최초로 AI 기반 악플 탐지 ‘클린봇’을 선보였다. 이를 기반으로 2023년 7월부터 클린봇 옵저버 베타 서비스를 시작했다. 클린봇 옵저버는 문장 맥락을 파악해 욕설, 저속한 표현뿐만 아니라 선정적, 폭력적, 차별적, 비하적 표현도 스스로 탐지해서 필터링하는 등 지속 개선 중이다.

이와 함께 네이버는 언론 협단체와 상반기 중 ‘자살 예방 보도 준칙’과 같은 참사 보도 권고 기준 및 악플 예방 문구를 마련해 해당 보도 시 문구를 삽입하도록 협의할 예정이다.

관련 문구가 포함된 기사 경우, ‘자살 보도’와 마찬가지로 언론사에 댓글 자동 중단 여부를 설정할 수 있는 기능을 제공할 수 있을 전망이다. 언론사에서 자살 예방 문구처럼 특정 악플 예방 문구를 기사 내 삽입하면 대형참사, 인명사고 기사로 탐지해 해당 기사 댓글이 자동으로 닫히는 방식을 함께 논의하게 된다.

네이버 뉴스는 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토 중이다. 댓글 내 공감, 비공감이 모두 일정 기준 이상 빠르게 올라가는 경우, 언론사에 알림을 주어 댓글 정렬 방식을 최신순, 답글순, 과거순 등으로 전환하도록 유도하는 방식 등을 고려하고 있다.

네이버는 “자살 예방 캠페인에 적극 동참했던 것처럼 대형 참사를 포함한 인명 사고 기사에서도 악플 근절을 위해 기술적, 정책적 노력을 지속하겠다”고 말했다.