딥페이크 사태에 AI 워터마크 의무화 찬반 온도차…"입법 시급" vs "신중 논의"

실시간
뉴스

인터넷

딥페이크 사태에 AI 워터마크 의무화 찬반 온도차…"입법 시급" vs "신중 논의"

디지털데일리 발행일 2024-09-12 19:17:42

이나연 기자

URL복사

12일 오후 3시 방송회관에서 ‘딥페이크 성범죄영상물 OUT!-현안 진단과 대책 모색'’을 주제로 토론회가 개최됐다. 이번 행사는 방송통신심의위원회, 시청자미디어재단 등과 방송통신위원회가 공동 개최한다. [방송통신심의위원회 유튜브 채널 생중계 화면 갈무리]

[디지털데일리 이나연기자] 딥페이크(인공지능 기반 이미지 합성 기술) 성범죄물 제작·유포 사태가 격화하며 생성형 인공지능(AI) 저작물에 대한 워터마크(식별표시) 의무화 논의가 급물살을 타고 있다.

다만 AI 워터마크 표시 의무제 실효성에 대해서는 방송통신위원회 등 정부부처, 기관 등과 온라인 플랫폼업계 간 의견이 찬성과 신중 입장으로 각각 갈렸다.

12일 서울 양천구 목동 방송회관에서 '딥페이크 성범죄영상물 아웃(OUT)-현안 진단과 대책 모색'을 주제로 토론회가 개최됐다. 이번 토론회는 방송통신위원회가 방송통신심의위원회, 시청자미디어재단 등과 공동 주최했다.

발제에 나선 최경진 가천대 법학과 교수(한국인공지능법학회장)는 "딥페이크처럼 음란물이 확산될 수 있는 터전이 되는 곳에 어떤 규제를 도입하는 것도 고려해야 하지만, 소셜네트워크서비스(SNS) 사업자들이 자율규제에 적극적으로 나설 환경을 만들어야 한다”고 말했다.

AI 대중화가 이끄는 부작용이나 폐해들 역시 다층화하는 만큼, 그 위험성을 함께 고려한 규제책을 도입해야 한다는 주장이다.

최 교수는 "규제로 인해 AI 발전 자체를 막는 형태로 가면 안 되고 지속 가능한 형태로 갈 수 있도록 규제체계가 만들어져야 한다"며 가짜뉴스, 음란물, 아동·청소년 음란물 등 영역별 심각성을 적용한 각각의 규제 체계로 개편해야 한다고 강조했다.

딥페이크 악용에 대응하려면 워터마크 표시 등 투명성 의무와 식별·탐지 기술 개발을 강화해야 한다는 의견도 나왔다. 최 교수는 "연구개발(R&D)을 통해 이러한 기술을 적극 개발해야 한다"며 "이를 우회하고 훼손, 파훼, 변조하는 불법 행위자를 강력히 처벌해야 실효성 있는 딥페이크 음란물에 대한 규제 체계가 이뤄질 것"이라고 전망했다.

이날 현장에서는 딥페이크 기술을 악용한 디지털 성범죄 영상물을 막기 위한 각고의 노력이 소개됐다.

김우석 방통위 디지털유해정보대응과장은 "방통위는 딥페이크 문제를 협의해 신속하게 삭제 차단하는 부분에 방심위와 공동 책임이 있다고 생각한다"며 "방심위 활동을 적극 지원하면서 논란이 되고 있는 피해 영상물뿐만 아니라, 피해자 신상 정보도 삭제 차단되도록 입법을 보완할 계획"이라고 전했다.

이러한 제도권 내 국내외 사업자 간 규제 역차별에 대해서는 "기업들이 매년 투명성 보고서를 발간하도록 돼 있는데 내용을 더 충실하게 하고, 허위로 만들었을 시 처벌할 수 있는 내용을 보완하겠다"라고 부연했다.

김 과장은 "지난달 김장겸 의원이 발의한 법안 관련 사회적 논의를 통해 조속한 입법이 이뤄졌으면 하는 바람"이라며 최근 정치권에서 논의되는 AI 워터마크 표시제 필요성에 공감했다.

김장겸 의원(국민의힘)은 SNS 이용자가 AI 생성물을 올릴 때 이 사실을 알리는 워터마크 기술 개발과 안내 및 적용을 일정 규모 이상 플랫폼 사업자에 의무화하는 정보통신망법 개정안을 지난달 29일 발의했다. 해당 안에는 딥페이크 표시 기능 미제공 시 1000만원 이하 과태료를 부과하는 처벌 규정도 담겼다.

김 과장은 "플랫폼 사업자들이 우려하는 규제 강화 측면은 앞으로 입법 과정에서 어떤 부분을 시행령 내 예외로 둘지 정하면 된다"라고 피력했다.

현행법상으로 기술 사용 범위 및 목적 등을 고려해서 대통령령으로 정하는 AI 생산물에 가상 정보 표시를 하지 아니할 수 있다는 부분이 있다는 게 그의 설명이다.

김 과장은 "오늘 방통위는 텔레그램이 사업자로서 청소년 보호 등 공적 책무를 다할 수 있도록 관련 자료 제출을 요청하는 공문을 (텔레그램에) 보냈다"며 "이또한 규제 역차별을 해소하는 것일 뿐만 아니라, 사업자들이 자율 규제할 수 있는 단초가 될 수 있다"라고 덧붙였다.

플랫폼업계는 다양한 기업 노력에도 딥페이크 성범죄 사태 등 문제를 뿌리뽑지 못하는 상황에 책임감을 느끼는 한편, 현실적인 한계도 있다고 짚었다.

김영규 한국인터넷기업협회 정책1실장은 "딥페이크 기술은 지속적인 진화 중으로 AI에 대한 낮은 윤리 인식으로 인해 플랫폼 자체적인 노력만으로는 완벽한 대응이 어렵다"라고 전했다.

특히 AI 워터마크 표시 의무화 내용을 중심으로 국회에서 30여개 관련 법안이 발의된 데 대해 "현재 문제가 되는 딥페이크와 관련없는 기술까지 이러한 표시가 의무로 된다면 정보기술(IT)업계는 물론, AI 적용하려고 하는 타 산업까지도 발전에 영향을 미칠 수 있다"며 "입법 과정에서 심도 있는 논의가 되길 바란다"라고 제언했다.

한편 김태규 방통위원장 직무대행은 개회사(대독)에서 "성적 허위 영상물 제작·유포 행위는 불법이며 피해자에게 회복하기 어려운 피해를 주는 디지털 성범죄"라며 "논의된 내용들은 정책에 반영하겠다"라고 전했다.

류희림 방심위원장도 환영사를 통해 "최근 딥페이크 성범죄 영상이 성인뿐만 아니라 초등학교까지 확산하면서 '국가 재난'으로까지 언급될 정도"라며 "방심위는 텔레그램과 핫라인을 개설했고 이르면 이달 내 첫 대면 회의도 할 예정"이라고 밝혔다.