다섯명 중 네명이 속았다…딥페이크 처벌 기준은 `뜨뜻미지근`

실시간
뉴스

보안

다섯명 중 네명이 속았다…딥페이크 처벌 기준은 '뜨뜻미지근'

디지털데일리 발행일 2024-10-10 09:20:58

김보민 기자

URL복사

지난달 30일 대전 서구 대전경찰청에서 딥페이크 성착취물 범죄와 관련해 집중단속 회의가 진행되고 있다. [ⓒ연합뉴스]

[디지털데일리 김보민기자] 딥페이크 기술로 생성한 영상을 시청했을 때, 다섯 중 한 명만 진위 여부를 판별할 수 있는 것으로 나타났다. 그만큼 조작물을 가려내기 어렵다는 의미인데, 국내에서는 관련 범죄에 대한 처벌 기준과 수위가 높지 않아 전방위적인 대응책이 필요할 것으로 보인다.

10일 관련 업계에 따르면 국제 전문 학술지 '로얄소사이어티오픈사이언스'는 '콘텐츠 경고 유무에 따른 딥페이크 탐지(Deepfake Detection with and without Content Warnings)'라는 이름의 연구 결과를 공개했다. 연구는 딥페이크 기술에 대한 이해도, 인터넷 사용량, 소셜미디어 활용도 등이 다른 이들을 대상으로 진행됐다.

먼저 연구진은 사전 경고 없이 딥페이크 기술이 적용된 영상을 참가자에게 보여줬다. 그 결과, 예상대로 참가자들은 자신이 시청한 영상이 조작됐다는 사실을 감지하지 못했다. 상황을 바꿔 다섯 개의 영상 중 최소 한 개가 딥페이크 기술이 적용됐다고 알렸을 때에는, 참가자 중 21.6%가 조작 영상을 가려냈다. 다섯 중 한 명꼴인 셈이다. 반면 절반 이상은 조작되지 않은 영상을 딥페이크 기술이 적용됐다고 잘못 짚어냈다.

최근처럼 딥페이크에 대한 인식이 두드러지고 있더라도, 실제와 유사한 조작 영상을 봤을 때 이를 의심하기란 어려울 수 있다는 의미다. 연구진은 "딥페이크의 위협을 보여주는 결과"라며 "거짓 정보를 퍼뜨릴 수단이 될 수 있을 뿐만 아니라, 거짓 영상을 수동으로 구분하는 것을 완전히 어렵게 할 수 있다"고 강조했다.

국내에서도 이러한 경고가 기우가 아니라는 점이 증명되고 있다. 특히 딥페이크는 허위 정보 유포를 넘어 사이버 사기와 디지털 성범죄에 악용되고 있어 피해 사례가 늘고 있다. 일반 성인은 물론, 학생까지 피해 대상이 되고 있다.

교육부가 지난달 발표한 '학교 딥페이크 허위 영상물 피해 현황 4차 조사'에 따르면, 올 1월1일부터 지난달 27일까지 교내 딥페이크 허위 영상물로 피해를 입은 이는 총 833명이다. 가장 비중이 높은 피해자는 학생(799명)이었고, 교원(31명)과 직원(3명)이 뒤를 이었다. 피해 건수로 보면 고등학교(279건)와 중학교(209건)가 높았지만, 초등학교(16건)에서도 관련 피해 사례가 발생한 것으로 확인됐다.

유명인을 대상으로 딥페이크 음란물을 만들어 유통하는 것은 어제오늘 일이 아니라는 말도 나온다. 서울경찰청 담당 태스크포스(TF)에 따르면 최근 검거된 20대 남성은 올해 1분기 생성형 인공지능(AI) 서비스를 활용해 허위 영상물을 만들 수 있는 프로그램을 제작했고, 여기서 연예인 72명의 딥페이크 영상 4000여건을 제작해 판매한 혐의를 받고 있다.

문제는 '처벌'의 영역이다. 국내에서 딥페이크 기술을 이용한 범죄를 처벌할 수 있게 된 것은 2019년 'N번방' 사건이 시작이었고, 이후 2020년 성폭력범죄처벌특례법에 처벌 조항이 생기면서 디지털 성범죄에 포함되게 됐다. 다만 불법 합성물을 제작하고 소지하더라도, 적발 시 처벌이 불가능해 한계가 분명하다는 지적이 이어져 왔다.

이에 국회는 지난달 딥페이크 성착취물에 대한 처벌을 강화하자는 취지로 특례법 개정안 내 딥페이크 처벌법을 통과시켰다. 허위 영상물을 소지, 구입, 저장 또는 시청할 경우 3년 이하 징역 또는 3000만원 이하 벌금을 부과하는 것이 핵심이다. 약 4년 만에 '소지'와 '시청'에 대한 규제 조항이 추가된 것이다.

그러나 딥페이크 범죄가 지속적으로 증가하고 있고, 생성형 AI 서비스가 등장한 이후 '누구나 조작물을 만들 수 있는 시대'가 다가온 만큼 규제 조항 만으로는 충분하지 않다는 지적이 나온다. 한국보다 먼저 딥페이크 범죄에 대한 경각심을 드러낸 미국 또한 주 및 연방 법률로 나눠 처벌을 진행하고 있지만, 일관된 법적 틀을 마련하지는 못하고 있다.

양형 기준을 세운 뒤 피해자 보호와 가해자 처벌에 일관성을 확보해야 한다는 목소리나 제기되는 이유다. 이번 국정감사(이하 국감)에서도 양형 기준에 대한 필요성이 부각되기도 했다. 천대엽 법원행정처장은 7일 국회에서 열린 법제사법위원회의 대법원 국감에서 관련 질문을 받고 "새롭게 대두되는 범죄에 대해 즉각 양형 기준에 반영하기는 쉽지 않다"면서 "상황 인식을 공유해 검토해 볼 것"이라고 답하기도 했다.

딥페이크 범죄에 대한 문제점이 화두로 떠오른 만큼, 관심이 꺼지기 전 전방위적인 대응책을 모색해야 할 것으로 보인다.

일단 정부를 비롯한 주요 부처는 공감대를 표하고 있다. 행정안전부(이하 행안부)는 전날 5개 분야·12건 데이터 분석 과제를 선정했다며, 이 가운데 핵심 과제로 'AI를 활용한 딥페이크 불법 콘텐츠 분석모델 개발'을 꼽았다. 국립과학수사연구원과 내년 2월까지 분석 모델을 만든 뒤, 디지털 성범죄에 빠르게 대응할 수 있도록 환경을 마련하겠다는 취지다.