“부정적 이미지 씌워진 딥페이크, 플랫폼 책임론 부작용도 따져야”

실시간
뉴스

인터넷

“부정적 이미지 씌워진 딥페이크, 플랫폼 책임론 부작용도 따져야”

디지털데일리 발행일 2024-09-05 18:25:57

이나연 기자

URL복사

과기정통부·방통위·방심위와 메타코리아도 딥페이크 성범죄물 근절 대책 밝혀

[디지털데일리 이나연기자] 국회 여야가 민관 전문가와 함께 딥페이크(인공지능 기반 이미지 합성 기술) 성범죄물 제작·유포 사태 해결을 위해 머리를 맞댔다. 전문가들은 딥페이크 규제에 따른 플랫폼 규제 강화 부작용을 경계할 것을 조언하는 한편, 정부부처와 유관기관은 딥페이크 성범죄물 근절을 위한 대책 강화에 힘쓸 것을 피력했다.

5일 국회 과학기술정보방송통신위원회는 서울 여의도 국회에서 ‘딥페이크 성범죄영상물 어떻게 근절할 것인가’를 주제로 긴급 정책 토론회를 개최했다.

미국의 한 보안업체가 발표한 2023년 딥페이크 현황 보고서에 따르면 딥페이크 성범죄물 총 9만5000건을 조사한 결과, 피해자의 약 53%가 한국인이었다. 더 큰 문제는 국내에서 이같은 사건 가해자와 피해자 모두 10대 청소년 비중이 크다는 것이다.

발제에 나선 김명주 서울여대 정보보호학부 교수(국제인공지능윤리협회 회장)는 이른바 지인 능욕방과 같이 올해 국내에서 연달아 발생한 텔레그램 딥페이크 사건을 “아동 청소년에 대한 딥페이크 교육이 사실상 전무한 가운데 ‘텔레그램’이라는 독특한 플랫폼 광고 수익 모델의 강한 흡입력과 ‘오픈소스’ 딥페이크 확산을 통한 개인화(수익화)가 배경”이라고 정의했다.

지난 2013년 파벨 두로프 텔레그램 최고경영자(CEO)가 만든 텔레그램은 대표적인 보안 메신저로서 종단형 암호통신이 특징이다. 서버에 이용 기록이 저장되지 않으며 특정 파일을 공유하거나 저장할 경우, 다국적 클라우드를 통해 비밀키로 분산 저장된다.

기존 무료로 운영되던 텔레그램은 지난 2021년부터 가입자 1000명 이상 채널을 대상으로 50대50 광고 수익을 나누는 정책을 시작했다. 올해부터는 블록체인 톤(TON)을 도입해 거래를 시작했다. 김명주 교수는 “이 광고 시스템은 채널 운영자들에게 더 많은 가입자를 유치하게 만드는 장치”라고 말했다.

딥페이크 기술 오픈소스화도 디지털 성범죄물 확산의 주요 원인으로 꼽힌다. 김 교수는 “고품질화된 딥페이크 기술이 ‘깃허브’를 중심으로 소스 코드가 무료 배포된 데 따라 기술의 개인 소유화가 이뤄졌다”며 “텔레그램 공개대화방 ‘봇(Bot)’을 통해 24시간 자동으로 딥페이크를 작동시킬 수 있다”라고 설명했다.

국내외에서는 ▲AI 생성물에 가시적·비가시적 워터마크 부착 ▲유럽연합 ‘AI법’ ▲미국 ‘AI 행정명령’ 등 딥페이크 도구에 대한 법정 제재가 시행 중이거나 검토되고 있다. 그러나 이미 개인화된 오픈소스에는 적용이 불가하고, AI 기술이 일부 음지로 숨어버리면서 실효성을 완전히 담보하기 어려워진 실정이다.

이에 딥페이크 콘텐츠 유통 경로인 플랫폼에 대한 책임론 목소리가 커지고 있다. 유럽연합은 ‘디지털 서비스법(DSA)’을, 영국은 ‘온라인 책임법’을 시행 중이며 한국 공정거래위원회도 ‘온라인 플랫폼 공정화법(안)’에 관련 의제를 추가했다.

미국은 이와 상반된 행보를 보인다. 지난 1996년 미국은 통신법을 제정하면서 통신 품위법(CDA)에 사용자 생성 콘텐츠 거래에 대해 플랫폼 면책 조항을 만들었다. 김 교수는 “현재 미국 플랫폼들은 법적인 책임이 없는 상태”라며 “주법이 발의되고 있지만 대법원에서 기각이 되고 있다”라고 전했다.

디지털·AI 윤리 교육 중요성과 함께 글로벌 플랫폼 차원의 공동 대응이 강조되는 이유다. 김 교수는 “텔레그램이 방송통신심의위원회에 순응적인 태도로 바뀐 건 프랑스가 지난달 파벨 두로프 텔레그램 창업자 겸 CEO를 체포했기 때문”이라고 덧붙였다.

아울러 김 교수는 딥페이크 도구 규제와 플랫폼 책임 부여, 처벌 강화를 해결책으로 제시하면서도 일관적인 규제 확대가 불러올 부작용을 고려해야 한다고 경고했다.

김 교수는 “딥페이크라는 기술 자체는 문제가 없지만 이미 부정적인 이미지가 씌워진 상태”라며 “국내 플랫폼이 전 세계에서는 1위가 아니기 때문에 해외와 동등한 규제를 적용할 때 역차별 소지까지 감안한 규제가 만들어져야 한다”라고 제언했다.

강도현 과학기술정보통신부 제2차관이 5일 서울 여의도 국회에서 ‘딥페이크 성범죄영상물 어떻게 근절할 것인가’를 주제로 한 긴급 정책 토론회에서 발언하고 있다.

이어진 토론에서는 정부부처와 유관기관, 플랫폼 기업들이 딥페이크 성범죄물 근절을 위해 진행하는 노력과 함께 대책에 대한 의견들이 오갔다.

강도현 과학기술정보통신부 제2차관은 “여러 정부부처가 모여 논의한 결과, 일정한 성과도 있지만 여전히 끌고 갈 문제가 많다”며 “정부가 발표한 디지털 시대 새 질서로서 핵심 9개 과제 중 하나가 딥페이크로, 단기 대책은 정부 차원에서 관계 부처가 합심해 오는 10월 말까지 조속히 만들 예정”이라고 말했다.

방송통신위원회는 텔레그램에 대해 딥페이크 영상물 삭제 명령 등 규제를 검토 중이다.

신영규 방송통신위원회 방송통신이용자정책국 국장은 “텔레그램 채널 서비스 경우, 카카오톡 오픈채팅과 같은 서비스인데 불특정 다수에 딥페이트 성범죄물을 유통하는 것으로 볼 여지가 있다”며 “현행법으로 규제할 여지가 있을 것으로 보고 관련 검토를 진행 중”이라고 밝혔다.

방송통신심의위원회는 글로벌 플랫폼 사업자들을 만나고 협조 서한을 보내는 등 딥페이크 성범죄 대응을 위한 협력체계를 강화하기로 했다.

이동수 방심위 디지털성범죄심의국장은 “다음달 글로벌 플랫폼 사업자들과 간담회를 계획 중”이라며 “민간기업들과의 딥페이크 대응 공조를 강화하겠다”라고 전했다. 방심위는 딥페이크 영상물이 확산할 경우, 이를 시정 요청할 플랫폼들에 대한 관리를 강화하고자 11개 사업자에 대한 협조 요청 서한도 보낼 계획이다.

허욱 메타코리아 부사장은 “메타는 미국 기업이긴 하지만 전 세계에 서비스하고 있기에 미국뿐만 아니라, 현지 국가 법률을 검토 및 준수하며 서비스를 제공하고자 한다”며 “AI 기술로 만들어진 영상물이나 이미지에 대해선 레이블링을 별도 표시하고 있다”라고 설명했다.