“딥페이크 정의 명확히 해야…규제는 신중히, 다각도로”

실시간
뉴스

e비즈*솔루션

“딥페이크 정의 명확히 해야…규제는 신중히, 다각도로”

디지털데일리 발행일 2024-09-19 17:30:12

오병훈 기자

URL복사

왼쪽부터 김영규 한국인터넷기업협회 실장, 임윤상 경찰청 사이버성폭력수사 계장, 최경진 가천대학교 교수, 정승환 고려대학교 교수, 장응혁 계명대학교 교수, 김세희 서울 중앙지검 형사 3부 검사, 최란 한국성폭력상담소 부소장

[디지털데일리 오병훈기자] “딥페이크 범죄와 관련해 차등화된 처벌이 필요합니다. 범죄 피해 정도에 따라 처벌 수위를 차등적으로 적용하는 방법을 고민해봐야 하며, 딥페이크 범죄를 일반화 해 인공지능(AI) 기본법 전반에 (규제를) 도입하는 것은 피해야합니다.”

19일 정청래 의원(더불어민주당) 주관으로 개최된 ‘딥페이크 허위영상물 성범죄에 대한 종합적 대안 모색을 위한 정책토론회’에서 최경진 가천대학교 교수는 ‘혁신과 범죄가 공존하는 딥페이크에 대한 법제도적 대응방안’을 주제로 발표하며 이같이 강조했다.

먼저 최 교수는 딥페이크 규제 및 범죄 처벌을 위해서는 딥페이크에 대한 정의를 명확하게 할 필요가 있다고 봤다. ‘딥페이크’ 단어 자체가 아직까지 국제적으로 의미 및 정의가 완전히 정립되지 않은 탓에 캠브릿지 사전과 메리엄웹스터와 같은 국제 사전에서도 서로 다른 의미로 등재돼 있다고 분석했다.

최 교수는 “딥페이크를 어떻게 정의하는냐에 따라 규제 대상이 달라질 수 있다”며 “대상이 특정돼야 하는데, 국제적으로 정립된 개념이 없는 상황이기 때문에 국내에서도 딥페이크를 명확하게 정의할 필요가 있다”고 지적했다.

이어 “(합성 기술 자체가 문제인 것처럼) 일반화되는 것은 피해야 한다. 영화 CG 등 기술에도 AI 기술이 사용되는 데 이를 처벌할 수는 없지 않겠나”라며 “예컨대 딥페이크 가짜뉴스와 딥페이크 음란물은 각기 다른 피해 정도를 낳는다는 점을 고려해 처벌 수위도 달라져야 한다고 본다”고 설명했다.

구체적으로 최 교수는 딥페이크 범죄 및 피해 정도를 ▲AI 생성 콘텐츠·딥페이크 (초상권 침해) ▲딥페이크 가짜뉴스(사회질서 교란, 명예훼손) ▲딥페이크 피싱(금융사기) ▲선거 관련 가짜뉴스(민주주의 훼손) ▲딥페이크 음란물(성범죄, 인격 파괴) 등으로 세분화해 처벌 수위를 논의해보자는 의견을 냈다.

최 교수는 딥페이크 범죄를 이유로 관련 산업에 법률적 규제를 가하는 것은 옳지 않다는 입장이다. 국내 플랫폼에 대해서는 이미 촘촘한 규제가 마련돼 있으며, 정작 딥페이크 음란물이 주로 유포되는 곳은 외국 플랫폼이라는 것이다. 이에 따라 추가적인 법률 규제보다는 기업 자율규제와 더불어 현행 규제 집행 체계를 돌아보며 실효성을 높이는 데 집중해야한다는 주장이다.

최 교수는 “딥페이크 범죄는 자율적으로 통제 가능한 부분도 있다”며 “법률 규제를 추가하기보다는 기존에 마련된 정보통신망법 규제, 성폭력 처벌법, 공직 선거법 등 집행 실효성을 높여 대응하는 방법도 있다”고 설명했다.

국제 공조 협력 필요성도 언급했다. 딥페이크 성범죄를 차단하기 위해 가장 중요한 것은 음란물이 유통되는 플랫폼 영역 통제가 중요하다는 설명이다. 이번 딥페이크 성범죄 파장에서도 깜깜이 수사 원인이 해외 소셜미디어 플랫폼 ‘텔레그램’의 폐쇄성에 있다는 점을 생각해 볼 때, 적극적인 공조 체계를 마련해 수사력을 높일 필요가 있다는 것이다.

아울러, 최 교수는 “기술적인 측면에서도 예방을 위한 연구가 지속돼야 한다”며 “AI 생성 콘텐츠에 추적 가능한 디지털 워터마크를 의무적으로 표시하도록하고, 워터마크를 제거 및 변경하지 못하게 하는 금지 규정도 있어야만 실효성을 확보할 수 있을 것”이라고 설명했다.

이와 함께 이근우 가천대학교 교수는 “(딥페이크 음란물) 공급자 차단을 위해 빠르게 범죄수익 계좌 동결할 수 있는 방법을 고민해봐야 한다”며 “현재 경찰청과 인터폴이 공조해 신속 자금 동결 제도를 추진 중인 것으로 아는데, 이런 제도가 빠르게 자리를 잡아야 한다”고 설명했다.

이근우 교수는 텔레그램과 같은 해외 법인에 대한 수사 협조를 유도하기 위한 대응책으로, 여러 국가가 동시에 ‘범죄인 인도’를 요청하는 방법도 제안했다. 한개 국가가 아니라 여러 국가에서 이같은 사법적 요구를 전달함으로서 압박을 가해보자는 취지다.

이어진 토론에선 김영규 한국인터넷기업협회 실장이 현재 딥페이크 범죄를 이유로 인공지능 산업 전반에 규제를 가하는 것에 대해 우려를 표했다.

김영규 실장은 “딥페이크 성범죄 파장 이후 국회 내 30건 이상 법안이 발의됐는데, 우려되는 부분은 지나치게 포괄적인 규제를 도입할 경우 국내 인공지능 사업자뿐만 아니라 인공지능 도입을 고려하고 있는 타 산업 분야에 악영향을 미칠 수 있다다”고 지적했다.

또 “딥페이크 기술 자체는 타 산업 분야에서 유용하게 쓰이고 있다”며 “예를 들어 의료 분야에서 의료용 3차원(3D) 이미지를 합성하거나, 신변 보호 등 개인정보 보호를 위한 합성 이미지 제작 등 다양한 형태로 사용되고 있다”고 설명했다.

한편, 정청래 의원은 이날 개회사를 통해 “딥페이크 성범죄 문제 심각성을 인식하고, 관련 대안책을 마련하기 위해 국회에서 보기 드물게 법제사법위원회(이하 법사위), 과학기술정보방송통신위원회(이하 과방위), 행정안전위원회(이하 행안위) 등 3개 위원회가 공동 주최를 하게 됐다”며 “법사위에서는 법으로 대책을 마련하고, 과방위에서는 딥페이크 범죄를 기술적으로 잡아내고 유포되지 않게 해야 될 것이고, 행안위에서는 경찰 등 집행기관이 잘 집중 단속하고 피해 유포를 막도록 하는 등 각자 위치에 따른 협력을 이어가야 한다”고 전했다.