"이미 글로벌은 한수 위"…`딥페이크 잡는 AI` 주목받는 솔루션은?

실시간
뉴스

e비즈*솔루션

"이미 글로벌은 한수 위"…'딥페이크 잡는 AI' 주목받는 솔루션은?

디지털데일리 발행일 2024-09-25 09:29:05

김보민 기자

URL복사

[디지털데일리 김보민기자] ‘진짜인가 가짜인가, 그것이 문제로다.’ 딥페이크가 국내 최대 화두로 떠올랐다. 딥페이크는 컴퓨터 처리와 머신러닝 기술을 사용해 만든 합성 미디어로, 누군가가 실제 하지 않은 일과 말을 사진·영상·음성으로 만들어낼 수 있어 범죄 악용 우려가 크다.

국내 정보기술(IT) 및 보안업계에서는 이러한 조작물을 탐지하기 위한 사업을 강화하려는 움직임이 두드러지고 있지만, 아직 걸음마 단계라는 평가가 다수다. 반면 관련 기술 개발에 일찍이 뛰어든 글로벌 기업을 중심으로, 탐지 기술이 본궤도에 오르는 분위기다. 이들 기업은 인공지능(AI) 기술을 활용해 딥페이크 여부를 판별해 내는 솔루션을 선보이며 속속 도전장을 내밀고 있다.

25일 관련 업계에 따르면 구글 딥마인드는 워터마킹 도구 ‘신스ID(SynthID)’를 베타 출시했다. 신스ID는 AI가 생성한 이미지, 영상, 음성에 디지털 워터마크를 삽입해 조작 여부를 식별할 수 있는 도구다. 워터마크 삽입과 식별에 특화된 딥러닝 모델을 기반으로 작동하는데, AI가 생성해낸 창작물을 판별하는 데 쓰일 수 있다. 딥페이크 조작물을 만드는 데 AI 기술과 관련 데이터가 사용됐는지 워터마크 측면에서 판별할 수 있다는 의미다.

구글 또한 딥페이크 대응책으로 신스ID가 역할을 할 수 있다고 자신했다. 토마스 쿠리안(Thomas Kurian) 구글클라우드 최고경영자(CEO)는 지난해 신스ID가 공개됐을 당시 “많은 고객들은 일상적인 AI 탐지 수요를 늘리는 동시에, 딥페이크에 대한 우려를 표하고 있다”고 말했다.

구글에 앞서 인텔도 딥페이크 탐지 기술 ‘페이크캐처(FakeCatcher)’를 공개한 바 있다. 페이크캐처는 인텔 하드웨어와 소프트웨어를 사용해, 웹 기반 플랫폼을 통해 서버와 인터페이스 상에서 구동되는 것이 특징이다. 얼굴 감지 AI 모델 및 알고리즘과 실시간 사진 및 영상 분석을 위한 툴킷이 포함돼, 개별 감지 시퀀스를 동시 관리할 수 있다.

기존 딥러닝 기반 탐지 기술의 경우 원시 데이터를 조사해 허위 근거를 찾는 방식으로 작동하는데, 페이크캐처는 실제 영상 내 인물이 ‘실제 사람’임을 증명하는 데 초점을 맞춘다. 일례로 얼굴 혈관에서 흐르는 혈액을 나타내는 픽셀 변화를 식별하고, 딥러닝을 기반으로 조작 여부를 판별하는 방식이다. 인텔은 페이크캐처의 정확도가 96%에 달한다고 설명했다.

얼굴 분석으로 딥페이크를 탐지하는 또다른 기업은 센시티(Sensity)다. 센시티는 얼굴 조작 감지 API와 통합 소프트웨어개발키트(SDK)를 사용해 고객신원확인(KYC) 보안을 강화하고 있다. AI 기반으로 작동하는 솔루션 및 알고리즘은 딥페이크 여부를 판별하는 포렌식 검사를 제공하며, 사기문서 감지 및 ID 검증 등 서비스를 제공한다. API를 통해 타사 플랫폼과 통합도 지원한다.

글로벌 스타트업 또한 ‘딥페이크 잡는 AI’에 몰두하고 있다. 대표적으로 2020년 설립된 덕덕구스(DuckDuckGoose)가 있다.

덕덕구스는 사진, 영상, 음성, 텍스트 등 조작된 콘텐츠로부터 기업을 보호하기 위해 딥페이크 감지 솔루션을 제공하는 업체다. 총 6가지 딥페이크 감지 도구가 있는데, AI 보이스 디텍터(AI Voice Detector)는 모든 언어의 실제 인간 음성과, AI가 생성한 음성을 구별해 진위성을 판별한다. 분석 과정에서 모든 음성 데이터는 암호화되며 AI 알고리즘을 통해 분석 과정을 거친다. 이 밖에도 사용자가 딥페이크 콘텐츠에 대한 자체적 분석이 가능하도록, 기존 신원확인 도구와 통합할 수 있는 애플리케이션프로그래밍인터페이스(API)를 제공한다.

한편 딥페이크 범죄를 예방하기 위한 사전 조치가 마련되지 않는다면 개인뿐만 아니라 기업 차원에서도 피해가 일어날 수 있을 것으로 보인다. 시장조사업체 가트너는 2026년 기업 30%가 얼굴 인식 등과 같은 신원인증 및 검증 솔루션을 신뢰하지 않게 될 것으로 전망했다. AI로 생성된 딥페이크가 그만큼 늘어날 것이라는 취지다.