구글, 아동유해콘텐츠 식별 위해 AI 기반 API 출시

실시간
뉴스

콘텐츠

구글, 아동유해콘텐츠 식별 위해 AI 기반 API 출시

디지털데일리 발행일 2018-09-04 17:04:41

홍하나

URL복사

[디지털데일리 홍하나기자] 구글은 아동성적학대자료(CSAM)와 같은 유해 콘텐츠 차단을 위해 인공지능(AI) 기술을 선보였다. 이로써 기존에 사람이 작업하던 것보다 더 빠르고 효과적으로 유해 콘텐츠를 차단할 수 있을 것으로 기대된다.

4일 외신 벤처비트에 따르면 구글은 AI 기반의 ‘콘텐츠 안전 응용프로그램 인터페이스(Content Safety API)’를 선보였다. 이 기술은 고도의 심층신경네트워크(DNN)를 기반으로 한다.

구글의 콘텐츠 안전 API는 비정부조직(NGO), 기타 기술기업을 포함한 업계 파트너에게 무료로 제공된다. 구글은 “이 기술이 같은 기간 700%나 더 많은 CSAM을 식별하는 것을 확인했다”고 밝혔다.

이를 통해 구글은 새로운 콘텐츠를 식별하고 효과적으로 차단할 수 있다고 강조했다. 지금까지 사용된 유해 콘텐츠 차단 자동화 도구는 이전에 식별된 것과 일치하는 이미지만 잡아냈다. 새로운 유형의 이미지를 식별하기엔 한계가 있는 것.

따라서 대부분의 기술 기업들은 인공신경망이 적용된 AI를 이용해 음란, 욕설 등 모든 유해 콘텐츠를 찾아내고 있다. 이들이 AI를 활용하는 이유는 스스로 학습하는 인공신경망의 특성 때문.

한편 구글의 유해 콘텐츠 차단 API 출시에 인터넷 감시재단은 박수갈채를 보냈다. 영국의 한 인터넷감시재단은 “우리 분석가들은 AI 도구 개발에 흥분을 감추지 못하고 있다. AI 도구를 사용하면 더 큰 규모의 자료를 검토할 수 있으며 이전에 식별하지 못한 유해 콘텐츠를 찾아낼 수 있다”면서 “이 신기술을 공유함으로써 유해 콘텐츠 식별이 가속화될 수 있다. 이로 인해 인터넷은 안전한 공간이 될 수 있다”고 말했다.

<홍하나 기자>hhn0626@ddaily.co.kr