딥브레인AI, 경찰청 딥페이크 범죄 단속 지원한다

실시간
뉴스

솔루션

딥브레인AI, 경찰청 딥페이크 범죄 단속 지원한다

디지털데일리 발행일 2024-03-15 09:55:03

이종현 기자

URL복사

[디지털데일리 이종현기자] 인공지능(AI)을 이용해 가짜 영상이나 음성 등을 만들어 악용하는 딥페이크 범죄가 기승을 부리는 가운데 국내 AI 기업이 경찰청에 딥페이크 여부를 파악할 수 있는 솔루션을 공급하며 범죄 단속 지원에 나섰다.

15일 딥브레인AI는 경찰청에게 딥페이크 범죄 단속을 돕는 탐지 솔루션을 제공했다고 밝혔다. 경찰청은 해당 솔루션을 활용해 4월 총선을 겨냥한 선거 범죄를 비롯한 피싱 범죄와 합성 성 착취물 범죄 등 딥페이크 기반 지능형 범죄에 능동적으로 대처한다는 계획이다.

딥브레인AI의 딥페이크 탐지 솔루션은 ▲종합탐지 ▲음성탐지 2개로 구성돼 있다. 각각 이미지와 영상, 음성 탐지를 지원한다. 딥페이크로 의심되는 영상을 시스템에 업로드하고 ▲탐지모델 ▲탐지구간 ▲탐지인물 등을 설정하면 진위여부를 즉각 판별한다.

이미지와 영상은 픽셀 단위로 분석하며, 음성은 주파수와 시간, 노이즈 등 다양한 조작 요소를 종합적으로 고려해 판단한다. 통상 5~10분 정도의 탐지 시간이 소요되며 딥페이크로 판명될 경우 가짜(Fake)로 표시된다. 판별이 완료되면 변조율과 합성유형 등 범죄에 사용된 기술 정보도 함께 제공한다.

이번 딥페이크 탐지 솔루션은 딥브레인AI의 생성형 AI 아바타 제작 솔루션과 내부 축적된 딥러닝 기반 AI 휴먼 데이터를 기반으로 설계됐다. 서양인 위주의 데이터로 제작된 기존 대다수 탐지 모델과 달리 한국인 데이터 100만건, 아시아 계열 인종 데이터 13만건을 포함해 총 520만건의 데이터 학습을 더했다는 것이 회사 측 설명이다.

장세영 딥브레인AI 대표는 “신종 딥페이크 범죄에 효과적으로 대응하기 위해 경찰청과 협력해 딥페이크 탐지 솔루션을 꾸준히 고도화할 것”이라며 “누구나 쉽고 간편하게 허위 사실을 판단할 수 있도록 도와 딥페이크 범죄를 무력화시키는 게 궁극적인 목표”라고 전했다.