실시간
뉴스

보안

"유명인 딥페이크 사기, 절반은 韓연예인"…일상 파고든 AI 범죄

디지털데일리 발행일 2026-09-03 15:30:05
김보민 기자

[인터뷰] 딥페이크 분석 전문기업 '센시티'

딥페이크 분석 전문기업 센시티의 (왼쪽) 조르지오 파트리니 최고경영자(CEO)와 아트 바실리크 시니어 엔지니어가 <디지털데일리>를 만나 인터뷰하고 있다. [사진=센시티]

[디지털데일리 김보민기자] '단기간에 수억원의 수익을 낼 수 있습니다.' 유명 아나운서가 진행하는 뉴스 화면 속 정교하게 조작된 목소리가 흘러나온다. 곧이어 등장한 국민 배우 역시 '누구에게도 알려주지 않은 특급 투자 비법'이라며 오픈채팅방에 접속하라고 유도한다. 투자금을 건네자 빌보드 차트를 뒤흔든 K팝 가수가 '역시 널 믿어'라며 친근하게 반응한다. 때로는 '너와 연애하고 싶다'며 마음을 흔들기도 한다.

남의 이야기 같지만 현재 모두가 마주하고 있는 딥페이크 사기 범죄의 현주소다. 몇 년 전만 하더라도 어색한 표정과 움직임 덕에 거짓 영상이라는 점을 쉽게 알아차릴 수 있었지만, 생성형 인공지능(AI)이 등장한 이래 판도가 뒤집히고 있다. 누구나 딥페이크 사기로 돈을 벌 수 있게 된 지금, 그 어떤 때보다 경각심을 가져야 할 순간이 온 것이다.

딥페이크 분석 전문기업'센시티(Sensity)'는 한국 또한 이러한 범죄에서 자유롭지 않다고 경고했다. 경찰청이 8월 개최한 국제 사이버범죄 대응 심포지엄에 참석하기 위해 방한한 조르지오 파트리니 최고경영자(CEO)는 <디지털데일리>를 만나 "범죄자들이 악용하는 기술로 인해 가장 피해를 입을 취약 계층을 어떻게 보호할지 방법을 찾아야 한다"고 강조했다.

◆ 연예인·정치인 탈을 쓴 범죄자들…북한 연계 공격도 본격화

센시티에 따르면 딥페이크 범죄자들은 더 많은 트래픽을 유도하기 위해 유명인 얼굴을 도용하고 신원을 사칭하고 있다. 특히 K팝 인기가 커지면서 한국 연예인을 사칭하는 사기 행각이 증가한 것으로 나타났다. 파트리니 CEO는 "전 세계에서 발생한 '유명인 딥페이크 사기'의 절반은 한국 연예인의 신원을 도용해 생성되고 있다"며 "대부분은 딥페이크 성범죄 및 음란물에 악용되고 있다"고 말했다.

이 같은 영상물을 생성하거나 시청할 경우에는 법적 처벌을 받게 된다. 다만 딥페이크 범죄가 일종의 서비스형 사기(DaaS)로 진화하고 있어 이에 대한 추적과 탐지가 어려운 실정이다. 특히 남녀노소 가릴 것 없이 AI를 사용할 줄 안다면 누구나 범죄를 저지를 수 있어 이에 대한 통제도 점차 어려워지기 시작했다.

파트리니 CEO는 "실존하지 않는 장애인이나 암 환자를 내세운 조직적인 '동정심 사기' 캠페인이 늘어나면서 피해자에게 기부를 요구하는 범죄가 증가하고 있다"며 "테일러 스위프트, 일론 머스크와 같은 유명인이 등장해 돈을 송금하도록 유도하는 암호화폐 사기도 기승"이라고 진단했다. 이어 "연애를 빙자해 돈을 갈취하는 로맨스 스캠도 증가하는 추세"라며 "한국 유명인의 얼굴과 신원도 여기에 악용되고 있다"고 부연했다.

정부 관계자를 사칭해 실시간 영상 회의를 개최한 뒤 금전을 요구하는 사기 행각도 포착됐다. 센시티는 올해 싱가포르 로런스 웡 총리 얼굴을 딥페이크 기술로 구현해 실시간 줌(Zoom) 회의를 개최한 투자 사기 행각을 포착했다. 범죄자는 AI로 조작된 영상과 음성을 사용해 호르무즈해협 사태를 핑계로 싱가포르에 투자를 해달라고 요청했고, 피해자들로부터 신뢰를 얻은 뒤 송금을 유도했다.

아트 바실리크 센시티 시니어 엔지니어는 "해당 사기로 최대 800만달러(약 100억원)에 달하는 피해가 발생했다"고 밝혔다. 그러면서 "이것이 지금 벌어지는 딥페이크 사기의 현실"이라며 "이 같은 사건들은 당장 눈에 보이지 않을 뿐 항상 일어나고 있다"고 덧붙였다.

센시티는 국가 배후 공격자들의 조직적인 움직임도 감지되고 있다고 강조했다. 북한도 마찬가지다. 바실리크 엔지니어는 북한 연계 UNC1069 조직을 예시로 들며 "이들은 가짜 줌 회의는 물론, 딥페이크로 암호화폐 업계 임원을 사칭해 피해자가 악성 명령을 실행하도록 유도했다"고 말했다. 이어 "딥페이크가 자격 증명을 탈취하고 악성코드를 설치한 뒤 금전적 손실을 이끄는 핵심 도구로 활용될 수 있음을 보여준다"고 평했다.

로런스 웡 싱가포르 총리(왼쪽)를 사칭해 금전 사기 행각을 벌인 딥페이크 범죄. 센시티는 입모양 움직임 등을 분석해 조작 여부를 판별해낼 수 있다. [사진=센시티]

◆ 고도화되는 딥페이크 범죄…"과거 대응 방식으론 역부족"

센시티는 AI 기반 딥페이크 범죄가 고도화될 것으로 전망했다. 파트리니 CEO는 "일반 대중이 오픈AI, 제미나이 같은 영상 생성기에 접근할 수 있다는 것은, 범죄자들이 음지에서 이런 기술을 손에 쥐던 때가 아니라는 점을 보여준다"며 "이제 과거의 대응 방식은 더 이상 통하지 않을 것"이라고 선을 그었다.

그러면서 "예전에는 파일이 수정됐는지, 포토샵 처리가 됐는지, 녹음기로부터 나온 진짜 원본인지 포렌식을 하면 됐지만 이러한 방식으로는 부족하다"며 "분석이 진행되는 동안 AI는 이미 수백만개의 또다른 복사본을 만들어내기 때문"이라고 말했다.

네덜란드에 본사를 둔 센시티는 2018년 이미지 보안 서비스를 시작한 기업으로, 현재 아시아를 비롯해 주요 대륙에 딥페이크 첨단 사업을 제공하고 있다. 정부 및 공공기관이 주요 고객사다. 국내에는 2024년도부터 공공기관 도입이 추진됐다. 이들 기관이 딥페이크 및 생성형 AI를 이용한 범죄, 여성 및 미성년자를 주 대상으로 한 성착취물 범죄에 대응할 수 있도록 솔루션을 제공하고 있다. 미디어큐브가 국내 판매를 맡고 있다.

센시티는 인텔과 같은 빅테크 기업들이 딥페이크를 다루는 솔루션을 출시한 것과 관련해 "자신 있다"고 답했다. 파트리니 CEO는 "다른 기업들은 소비자 중심이거나 특정 기업에 맞춘 사용 사례에 집중한다면, 센시티는 포렌식 증거를 제공하기에 독보적인 차별점이 있다"며 "센시티가 제공한 증거가 법정에서 인정받을 수 있다는 의미"라고 소개했다.

이날 센시티는 싱가포르 정부 관계자들을 사칭한 줌 회의 범죄를 어떻게 탐지했는지 소개했다. 해당 영상에서 딥페이크로 조작된 것으로 추정되는 부분은 모두 빨갛게 표시가 되었고, 조작된 음성도 즉각 탐지가 가능했다.

바실리크 엔지니어는 "센시티는 여러 보안 계층을 구성하고 있다"며 "첫 번째 계층에서는 얼굴 조작 여부를 확인하는 시각적인 흔적(픽셀)을 분석한다"고 말했다. 이어 "영상에 사람이 등장하지 않더라도 AI로 생성됐는지 즉각 탐지가 가능하다"며 "이후 오디오 트랙을 가져와 화자를 식별하고 조작 여부를 분석할 수 있다"고 설명했다.

센시티는 전 세계 모든 국가가 사기 범죄에서 자유로워질 수 있도록 사명을 다하겠다고 의지를 표했다. 파트리니 CEO는 특히 미성년자 대상 범죄를 주목하며 "딥페이크는 아이들이 어릴 때 접하게 되면 이들의 삶에 부정적인 영향을 미칠 수 있는 기술"이라고 표현했다. 그는 "미성년자들이 온라인에서 어떤 것을 접하는지 주의 깊게 살펴보고, 이를 보호할 확실한 방법을 찾을 때"라고 밝혔다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지

디지털데일리 네이버 메인추가

당신이 좋아할 만한 뉴스

DD 마이크로 사이트

오피니언