“딥페이크 악용 음란물, 여기에 신고하세요”…이용자 협조 구하는 국내 포털

실시간
뉴스

인터넷

“딥페이크 악용 음란물, 여기에 신고하세요”…이용자 협조 구하는 국내 포털

디지털데일리 발행일 2024-08-28 17:00:40

이나연 기자

URL복사

방심위, 네이버·카카오에 방심위 전용 신고 배너 팝업 설치 요청

[디지털데일리 이나연기자] 최근 딥페이크 기술을 악용한 디지털 성범죄가 사회적 논란인 가운데 네이버가 관련 콘텐츠에 대한 신고 창구를 적극적으로 운영한다. 방송통신심의위원회(방심위)가 네이버와 카카오 등 국내 플랫폼에 대해 방심위 전용 신고 배너 설치를 요청하는 등 협조를 구한 데 따른 조치다.

28일 네이버 고객센터는 이러한 내용의 ‘딥페이크 유포 주의 사항 및 신고 채널 안내’를 공지했다. 딥페이크 기술을 악용한 범죄 행위는 심각한 법적 처벌을 받을 수 있다. 타인 콘텐츠를 단순히 게시하거나 유통하더라도 해당 콘텐츠가 딥페이크나 생성형 인공지능(AI) 등을 이용한 경우 문제가 될 수 있어 각별한 주의가 필요하다.

네이버 측은 “딥페이크 기술을 사용해 성폭력처벌법 등 관련 법령을 위반하거나 제3자 권리를 침해하는 이미지나 영상을 발견했다면 신고 채널을 통해 접수해 달라”며 “이용자 여러분의 적극적인 협조를 부탁하며 안전한 온라인 환경을 만들기 위해 최선을 다하겠다”라고 전했다.

딥페이크, 생성형 AI 등 기술을 이용한 결과 가운데 회사가 제시한 신고 접수 대상은 크게 ▲성범죄에 해당하는 내용 ▲아동·청소년 보호를 저해하거나 청소년 유해 또는 음란성 게시물에 해당하는 내용 ▲본인의 명예를 훼손하거나 초상권 등 권리를 침해하는 내용 ▲공직선거법 등 선거 관련 법을 위반하는 내용 등이다.

이날 방심위는 텔레그램 기반 딥페이크 음란물 제작 및 유포 사건이 확산하자 기존 국내 공식 협의체가 없는 텔레그램은 물론, 페이스북·엑스(X)·인스타그램·유튜브 등 글로벌 온라인 플랫폼 사업자들과 협의체를 구성하겠다고 밝혔다. 또 국내 플랫폼에는 방심위 전용 신고 배너 팝업을 설치하도록 했다.

네이버와 마찬가지로 포털 다음(DAUM)을 운영하는 카카오 역시 방심위 전용 신고 배너 팝업을 비롯한 여러 방안을 고려하고 있다. 카카오 관계자는 “구체적인 운영 방식을 협의 중인 상황”이라고 말했다.