"이게 맞나..." 구글·애플 로그인 `딥페이크 누드` 웹도 무분별 지원

실시간
뉴스

일반

"이게 맞나..." 구글·애플 로그인 '딥페이크 누드' 웹도 무분별 지원

디지털데일리 발행일 2024-08-30 15:19:19

이건한 기자

URL복사

[디지털데일리 이건한 기자] 웹사이트 가입 시 널리 쓰이는 구글·애플 계정 기반 회원가입 및 로그인 방식이 최근 사회적 논란을 일으킨 '딥페이크 누드 제작' 사이트에서도 버젓이 쓰이고 있었다.

최근 딥페이크 기술을 악용한 여러 성범죄 사례가 늘면서 고통을 호소하는 피해자들이 늘고 있다. [ⓒ AI 생성 이미지]

'와이어드'는 29일(미국 현지시간) 16개 주요 딥페이크 누드 제작 사이트에 구글, 애플 계정을 비롯해 디스코드, 트위터, 라인 등의 인증 시스템이 활성화되어 있다고 보도했다. 특히 "이는 마치 딥페이크 누드 제작 사이트들이 구글이나 애플 등 회사로부터 승인된 웹처럼 보이게 한다'고 지적했다.

딥페이크는 인공지능(AI)을 이용해 이미지, 오디오를 조작해 실제 인물처럼 보이게 만든 가짜 콘텐츠다. 본래 가상현실 콘텐츠 제작, 역사적 인물 복원 작업 등에서 유용한 기술이지만, 실상은 주로 실존 인물에 대한 조작 및 불법 누드 제작 등 부정적인 목적으로 쓰여 논란을 만들고 있다.

실제로 국내에서는 최근 청소년까지 지인의 디지털 이미지를 활용한 딥페이크 성범죄에 쉽게 빠져들고 있는 점이 알려지며 사회적 이슈로 불거진 바 있다. 따라서 불법 딥페이크 제작 도구에 대한 접속 제한이나 기타 접근성을 낮추는 여러 대안이 필요한 상황이지만, 손쉬운 회원가입과 결제 등을 지원하는 기업계정 로그인 시스템이 딥페이크 제작 사이트에서도 버젓이 지원되고 있는 점은 개선이 필요하단 지적이 따른다.

와이어드에 따르면 특히 구글 계정은 16개의 딥페이크 누드 제작 사이트 전부에서 사용되고 있었다. 이어 디스코드가 13개, 애플도 6개 사이트에서 발견됐다. 와이어드는 "구글, 애플 개발자 계정에서 이들 로그인 옵션을 활용하려면 개발자 계정이 필요하다"며 "애플은 이 사실을 알리자 즉시 관련된 모든 개발자 계정을 삭제했다"고 전했다.

30일 기준 구글 계정 로그인이 활성화 되어 있는 모 딥페이크 누드 제작 사이트.

구글은 자사 약관이 위반된 경우 조치를 가하겠다고 밝혔다. 그러나 와이어드가 공개한 사이트 중 일부에서는 여전히 구글 로그인 시스템이 활성화된 상태로 확인됐다. 심지어 해당 사이트는 'AI 여자친구를 무료로 디자인하고 옷을 벗기라'고 사이트 메인 페이지부터 낯뜨거운 문구를 노출하고 있지만, 국내 접속 제한은 이뤄지지 않고 있어 추가적인 논란이 예상된다.

한편, 국내 정부기관은 최근 딥페이크 문제의 심각성을 인지하고 관련 대응을 강화하고 있다. 경찰청 국가수사본부는 지난 8월28일부터 2025년 3월31일까지 '딥페이크 성범죄 관련 특별 집중단속'을 실시한다고 밝혔다. 이를 통해 딥페이크 제작부터 유포까지 철저히 추적·검거할 계획이다. 같은 날 서울경찰청도 '긴급 스쿨벨'을 발령해 서울 시내 초중고 1374개교와 학무보 78만명에게 카드뉴스 등을 활용해 딥페이크 확산 방지를 위한 자료를 일괄 전파했다.