[취재수첩] "그럴 수도 있지"…딥페이크 범죄 키우는 이 말

실시간
뉴스

보안

[취재수첩] "그럴 수도 있지"…딥페이크 범죄 키우는 이 말

디지털데일리 발행일 2024-09-27 09:46:38

김보민 기자

URL복사

[디지털데일리 김보민기자] 2년 전, 대학시절 아르바이트를 했던 학원에서 연락이 왔다. 수강생 한 명이 오랜 기간 강사들을 불법 촬영했으니 조치를 취할 생각이 있냐는 연락이었다.

학원은 수강생 집을 방문해 개인 PC까지 살펴봤다고 전했다. 대다수 파일은 지워져 있었는데, 의심스러운 빈 폴더 하나를 발견했다고도 말했다. 폴더 이름은 요즘 화두로 떠오른 '딥페이크'였다.

당시 수강생 어머니는 학원과 면담하며 "나이가 어리니까 그럴 수 있지 않느냐"고 말했다고 한다. 이 말에 일부 강사는 결국 고소 절차를 밟았고, 이후 수강생에 대한 소식은 들리지 않았다.

최근 딥페이크 범죄에 대한 이야기가 나올 때면 수강생 어머니가 했던 말이 떠오르곤 한다. 텔레그램에서 딥페이크 음란물을 공유한 사실이 수면 위로 드러나면서 지금은 전국적 관심을 받고 있지만, 결국 관련 범죄의 파급력을 간과했던 결과나 마찬가지이기 때문이다.

딥페이크 범죄는 '그럴 수 있다'는 말로 포장할 수 없다. 유명인들의 가짜 인터뷰나 영화 속 캐릭터를 재구성하는 재미 요소로 활용됐던 딥페이크 기술은, 이제 디지털 성범죄의 핵심 도구가 됐고 허위 정보부터 정치적 선동까지 다양한 영역에서 맹활약하기 시작했다.

심각성은 숫자로도 증명되고 있다. 경찰청에 따르면 올해 1월1일부터 9월25일까지 전국 경찰에 접수된 딥페이크 성범죄 사건은 812건에 달한다. 딥페이크 범죄의 경우 음지에서 일어난다는 특징이 있어, 신고되지 않은 건수까지 합치면 규모는 더욱 늘어날 전망이다. 딥페이크 성범죄로 검거된 피의자 387명 중 10대는 83.7%로 가장 많았고 20대(12.9%), 30대(2.3%), 40대(0.5%)가 뒤를 이었다.

문제는 딥페이크 범죄가 여기서 그치지 않는다는 것이다. 최근 생성형 인공지능(AI) 서비스가 쏟아져 나오면서 딥페이크 기술을 손쉽게 다룰 수 있게 됐고, 사이버 공격자 또한 이를 적극 활용하기 시작했다. 성범죄를 넘어, 사이버 범죄에서도 딥페이크가 핵심 도구로 떠올랐다는 의미다.

글로벌 시장에서도 딥페이크 기술의 악용 범위가 진화 중이라는 평가가 나온다. 보안기업 팔로알토네트웍스의 위협 연구조직에 따르면 최고경영자(CEO), 뉴스 앵커, 고위 공무원 등 유명인 모습을 한 딥페이크 사기 영상이 기승을 부리고 있다. 이러한 딥페이크 영상은 허위 투자나 지원금 등을 미끼로 낚는다는 특징이 있다. 이러한 캠페인에 사용되는 도메인은 수 백개에 달하며, 각 도메인은 서비스 개시 이후 평균 11만4000회 접속을 기록한 것으로 분석됐다.

정보기술(IT) 업계에서는 최근 5년 사이 딥페이크 범죄를 탐지하기 위해 관련 기술 개발에 뛰어든 상태다. 구글 딥마인드는 워터마킹 도구 '신스ID'를, 인텔은 얼굴 감지에 특화된 '페이크캐처'를 공개했다. 이외에도 얼굴 혈류를 분석해 가짜를 판별해 내는 기술도 본궤도에 오르고 있다. 국내의 경우 글로벌에 비해 속도가 느리지만, 픽셀 분석을 기반으로 딥페이크 여부를 판단해 내는 서비스가 속속 모습을 드러내고 있다.

그러나 이들 기업은 탐지 도구 만으로 딥페이크 범죄를 근절할 순 없다고 입을 모은다. 국내도 마찬가지다. 지금과 같이 전국적인 관심이 몰렸을 때 딥페이크 범죄에 대한 심각성을 알리고, 실질적인 대응방안과 처벌 조치가 취해져야 하는 이유다.

일단 국회는 딥페이크를 비롯한 디지털 성범죄에 칼을 빼들었다. 전날 열린 본회의에서 의결된 성폭력범죄처벌특례법 개정안은 허위 영상물을 소지, 구입, 저장, 시청죄를 신설해 3년 이하 징역 또는 3000만원 이하 벌금에 처하도록 했다. 유포 목적이 입증되지 않더라도 제작자를 처벌할 수 있게 했고, 불법 촬영 및 유포(징역 7년 또는 5000만원 이하 벌금)와 동일한 수위로 올렸다. 개정안은 공포 즉시 시행된다.

국정감사에서도 딥페이크에 대한 증인 소환과 질의가 이어질 예정이다. 이러한 움직임엔 분명한 의의가 있다. 딥페이크 범죄를 방치했던 과거에서 벗어나, 이제는 '그럴 수 없다'는 말로 기술 악용과 공격 진화에 대응하는 날이 오기를 기대해본다.