도박에 빠진 10대 청소년, ‘딥페이크 성범죄’로 이어진다

실시간
뉴스

법제도/정책

도박에 빠진 10대 청소년, ‘딥페이크 성범죄’로 이어진다

디지털데일리 발행일 2024-09-05 17:29:38

최민지 기자

URL복사

5일 권일용 동국대 교수가 ‘2024 AI 시큐리티데이’에서 발표를 하고 있다.

[디지털데일리 최민지기자] 딥페이크 성범죄에 이용되는 성착취물 영상이 불법도박 사이트와 연관되면서, 이에 대한 접근 차단이 적극적으로 이뤄져야 한다는 의견이 제기됐다. 동시에 딥페이크 성범죄에 대한 경각심을 제고하고, 가해자 처벌 강화 등 법적 규제 논의를 이뤄야 한다는 목소리가 모아졌다.

국내 1호 프로파일러 권일용 동국대 교수는 5일 서울 용산 로얄파크컨벤션에서 열린 ‘2024 AI 시큐리티데이’에서 “아이들이 딥페이크를 하는 영상 자체에 접근하는 경로부터 차단해야 한다”며 “아이들이 그러한 영상을 너무도 쉽게 접할 수 있는 환경에 놓여 있다”고 지적했다.

최근 텔레그램 등 소셜네트워크서비스(SNS)를 통해 유포되는 딥페이크 성범죄물이 심각한 사회 문제로 떠올랐다. 아동‧청소년 얼굴에 음란물을 합성한 딥페이크 성범죄가 전국적으로 기승이다. 특히 딥페이크 사건 피해자와 가해자가 대부분 10대에 집중되는 점이 우리 사회에 충격을 주면서, 단속‧처벌 등 규제 강화에 대한 목소리가 커지고 있다.

권일용 교수는 딥페이크 성범죄와 관련해 최근 문제되는 청소년 도박 범죄를 주목했다. 불법 도박 사이트에서 빚을 탕감받으려면, 다단계처럼 주변 친구들을 가입시켜야 한다. 이로 인해 청소년 불법 도박 전파 속도가 굉장히 빨라지고 있어, 또다른 사회 문제로 주목받고 있다. 문제는, 이러한 불법 도박사이트에 접속하면 수많은 음란물 배너를 볼 수 있다는 점이다.

권 교수는 “불법 도박사이트는 성착취물과 연동돼 있다”며 “성착취물 관련 사이트에 접속할 수 있는 시스템으로 구성됐기에, 이를 본질적으로 차단해야 할 필요가 있다”고 강조했다.

◆N번방 사태 때도 딥페이크 있었다…각국 규제 논의 활발

앞서, 지난 2019년 N번방 사태 때도 성착취물에 딥페이크로 합성한 영상을 만든 바 있다. 이후 피해자에 접근해 도와주는 척 하면서 개인정보를 탈취하고 다양한 범죄에 악용했다. 불법 영상을 촬영하는 성범죄가 발생하고, 범죄자는 해당 영상으로 경제적 이득을 취하고, 피해자는 사회활동을 할 수 없는 지경에 이르고 일부는 극단적 선택까지 했다.

디지털상에서 발생하는 성착취 범죄에서 끝나지 않고, 경제범죄 성범죄, 살인범죄까지 동시에 일어날 수 있는 유형임을 보여주는 사건이었다.

이근우 법무법인 화우 변호사가 ‘2024 AI 시큐리티데이’에서 발표를 하고 있다

이런 가운데, 최근 딥페이크 성범죄가 확산되자 규제 논의에 불이 붙은 상태다. 현재 딥페이크 음란물 규제를 성폭력범죄의 처벌 등에 관한 특례법에서 다루고 있다. 하지만, 개인 소지 목적의 딥페이크 음란물 제작행위는 처벌 대상이 아니라, 처벌 공백이 있는 상황이다.

이에 국회는 딥페이크 영상물 유포와 확산을 방지하는 법안들을 잇따라 발의하고 있다. 가해자에 대한 형사처벌뿐 아니라, 딥페이크 성범죄 영상물을 시청한 자까지 모두 처벌하도록 하는 개정안까지 발의된 상태다. 플랫폼 책임 강화와 워터마크 의무화를 포함한 법안도 나왔다.

해외에서도 상황은 비슷하다. 현재 미국은 연방차원에서의 딥페이크 규제 법안은 없지만, 매년 많은 법안이 의회에 제출되고 있다. 지난 1월30일에는 딥페이크 음란물을 연방차원에서 범죄화하고, 피해자들이 음란물 제작‧유포 관련자들을 상대로 민사소송할 수 있는 법안이 발의됐다. 캘리포니아 및 플로리다 주에서는 딥페이크 음란물과 관련해 관련해 손해배상을 청구할 수 있도록 하는 법안이 제출됐다.

이근우 법무법인 화우 변호사는 “딥페이크 범죄 중 여성을 활용한 성범죄물 비중은 96%에 이른다”며 “딥페이크 범죄 유형에 따른 맞춤형 입법이 필요하고, 가해자에 대해 강력한 형사처벌이 이뤄져야 한다. 콘텐츠 파악 및 차단 등 신속한 조치도 필요하다”고 진단했다.