네이버, ‘클로바 그린아이’ 베타 출시…실시간 음란물 필터링 기술 공개

실시간
뉴스

인터넷

네이버, ‘클로바 그린아이’ 베타 출시…실시간 음란물 필터링 기술 공개

디지털데일리 발행일 2022-12-16 10:17:15

이나연

URL복사

[디지털데일리 이나연 기자] 네이버 실시간 음란물 필터링 시스템 ‘엑스아이(X-eye)2.0’이 ‘클로바 그린아이(CLOVA GreenEye)’로 재탄생한다. 오픈 애플리케이션 프로그래밍 인터페이스(API) 형태로 외부에 기술을 개방함, 건전한 인터넷 환경 조성 및 이용자 보호에 기여하겠다는 목표다.

네이버는 엑스아이2.0을 클로바 그린아이로 리브랜딩하고, 네이버 클라우드 플랫폼을 통해 오픈 API 형태로 음란물 필터링 기술을 공개한다고 16일 밝혔다.

엑스아이는 네이버가 2017년 출시한 24시간 실시간 음란 이미지 필터링 기술이다. 축적된 수백만장 이미지를 학습해 부적절한 이미지나 동영상(음란물)이 네이버에 등록될 경우, 인공지능(AI) 기술이 이를 실시간 감지해 검색 노출을 차단한다.

엑스아이2.0을 리브랜딩한 클로바 그린아이는 전송된 모든 이미지를 이미지 단위로 검사하고, 유해 콘텐츠 등급에 따라 검사 결과값(정상·음란·성인·선정)을 반환한다. 네이버 클라우드 플랫폼 홈페이지에서 신청할 수 있으며 베타 서비스 단계에서는 승인된 사용자에 한해 서비스를 제공하고 있다.

네이버 서비스 운영 업무를 총괄하는 이정규 책임리더는 “지난 5년여간 네이버 내부에서 이용자 보호에 기여해 온 음란물 필터링 기술을 외부 기업들도 사용할 수 있도록 개방함으로써, 더욱 건전한 인터넷 생태계를 조성하는 데 도움이 되고자 한다”며 “앞으로도 AI 모델을 계속 고도화하고 데이터를 최신화해 유해 콘텐츠 감지 영역을 확대할 것”이라고 말했다.

한편, 네이버는 검색 외에도 카페, 블로그, 지식iN 등 다양한 서비스에 엑스아이를 활용하며 음란물을 차단해왔다. 지난해에는 엑스아이2.0으로 시스템을 업그레이드하며 정상·음란·성인·선정으로 콘텐츠를 더욱 세분화해 분류하는 한편, ‘렉스넷(ReXNet)’ ‘컷믹스(CutMix)’ ‘아담P(AdamP)’ 등 네이버 다양한 이미지 인식 선행연구 결과를 적용해 정확도를 99.5%까지 개선했다.