[딥페이크 사태 下] AI 워터마크, 안 하나 못하나…플랫폼의 복잡한 속내

실시간
뉴스

인터넷

[딥페이크 사태 下] AI 워터마크, 안 하나 못하나…플랫폼의 복잡한 속내

디지털데일리 발행일 2024-09-06 07:00:00

이나연 기자

URL복사

두 마리 토끼 잡기 어려워…업계 “정책, 기술 개발보다 방법론 고민”

[디지털데일리 이나연기자] 딥페이크(인공지능 기반 이미지 합성 기술) 성범죄물 제작·유포 사태로 최소한의 예방책으로서 생성형 인공지능(AI) 저작물에 대한 워터마크(식별표시) 의무화 논의가 탄력을 받고 있다.

이 가운데 해당 기술을 보유한 국내 주요 플랫폼 기업들은 선제 대응보다는 업계 흐름과 논의 방향성을 살피고 있다. 플랫폼 서비스 취지와 맥락을 고려하지 않고 당장 모든 AI 생성물에 워터마크를 도입하기에는 득보다 실이 클 것이란 게 업계 분위기다.

업계는 워터마킹 기술 개발의 어려움보다 어떤 서비스에 어떻게 적용할 것인가에 대한 방법론이 난제라고 말한다. 이들 기술이 가진 각 장단점이 명확해서다. AI 생성물에 붙일 수 있는 워터마크는 사용자 눈에 보이는 ‘가시성’ 워터마크와 육안으로 확인이 불가한 ‘비가시성’ 워터마크로 구분된다.

업계 관계자는 “이용자 입장에서 AI 생성물에 특정 로고가 붙어 있으면 다소 거부감이 드는 게 사실”이라며 “가시성 워터마크가 부착된 콘텐츠는 사용성 품질이 떨어지는 측면이 있다”라고 말했다.

특히 영상·이미지 편집 앱에서 워터마크를 지우는 기술이 상용화된 만큼, 가시성 워터마크의 궁극적 목적인 ‘AI가 만든 가짜 이미지’라는 인식과 경각심을 심어주기가 어렵다는 점도 과제다.

업계 관계자는 “AI 생성 이미지에 워터마크를 붙이는 게 문제 콘텐츠 확산을 막는 근본적인 대책처럼 많이 회자 되지만, 실효성이 담보되지 않는다는 점에서 서비스에 적용하는 부분에 고민이 있다”라고 덧붙였다.

비가시성 워터마크 경우 일반 사용자 눈에는 보이지 않는 워터마크를 적용하는 기술로, 이미지 가시적 훼손 없이 AI로 생성된 이미지라는 정보를 담을 수 있다. 사용자가 이미지를 일부 편집하더라도 비가시성 워터마크가 제거되거나 훼손되지 않는다는 점이 장점이다. 물론 실효성과 기술적 한계도 존재한다.

또 다른 업계 관계자는 “비가시성 워터마크가 붙은 AI 생성 이미지나 영상은 온라인상에 유통될 때 진짜인지 가짜인지 쉽게 알 수 없는 부분이 있다”며 “현 기술력으로는 해상도를 변경하는 등 해당 콘텐츠를 조작하면 내부 코드도 바뀌면서 비가시성 워터마크가 깨져버리는 경우도 간혹 있다”라고 밝혔다.

소셜 네트워크 서비스(SNS)라는 단순 콘텐츠 유통 역할에서도 플랫폼이 고민하는 지점이 있다. 딥페이크 성범죄 등 AI 기술 악용에 따른 문제를 막기 위해 모든 AI 생성물을 들여다보는 건 현실적으로 불가능할 뿐만 아니라, 딥페이크 탐지 모델은 문제가 없는 AI 콘텐츠까지 일괄 차단할 수 있어서다.

업계 관계자는 “지난해 네이버 스노우(SNOW)의 AI 사진편집 앱은 얼굴 사진을 첨부하면 1990년대 미국 하이틴 졸업사진 콘셉트 이미지로 바꿔주는 서비스로 AI 프로필 열풍을 이끌었다”며 “재미 목적의 AI 서비스까지 딥페이크라는 이유로 서비스상 제약이 생기면 애초 워터마크를 도입하려는 취지를 벗어나게 되는 셈”이라고 우려했다.