中, `딥페이크` 규제 나선다…AI 이용한 `가짜 콘텐츠` 본격 단속

실시간
뉴스

소프트웨어

中, '딥페이크' 규제 나선다…AI 이용한 '가짜 콘텐츠' 본격 단속

디지털데일리 발행일 2023-01-09 17:33:19

신제인

URL복사

[디지털데일리 신제인 기자] 중국 정부가 AI(인공지능) 기반으로 정교하게 구현된 '가짜' 이미지(딥페이크)를 단속하기위한 규제에 나선다.

'딥페이크' 는 진짜 사람과 같은 이미지 또는 동영상을 통해 사람들을 속일 수 있고, 심지어 이를 통한 여론 조작도 가능하다는 점 때문에 전세계적으로 위험성이 제기돼왔다. 그러나 이를 규제할 경우 '표현의 자유'에 대한 침해 우려 또한 적지않아 이를 본격적으로 규제한 주요 국가는 아직 없었다.

그러나 중국은 규제쪽에 방점을 찍었다.

8일 월스트리트저널(WSJ)에 따르면, 중국 정부는 딥페이크(deepfake) 대한 포괄적 규제 시행에 들어간다. 관련하여 중국 국가인터넷정보판공실은 AI 기반의 이미지·오디오·텍스트 생성 소프트웨어 등을 규제하기위한 '인터넷 정보 서비스 딥 합성 관리 규정'을 10일(현지시간)부터 시행에 들어갈 예정이다.

규제가 시행되면, 딥페이크 서비스 제공자와 이를 이용하는 콘텐츠 제작자는 딥페이크 기술을 이용해 콘텐츠를 제작할 경우, 이것이 딥페이크라는 사실을 표시해야하고 동시에 워터마크를 통해 원본 추적과 불법적으로 사용되지 않도록 조치해야한다.

또한 딥페이크를 사용하려면 이미지나 목소리 당사자의 동의를 반드시 구해야한다. 이밖에 이를 활용해 보도할 경우에는 원본은 정부 승인 매체에서 생산된 것이어야 한다.

이번 중국 당국의 규제는 AI가 생산한 '가짜 뉴스' 양산과 그 위험성을 막기위한 것이다. 하지만 한편으론 중국 정부가 '표현의 자유' 등 통제의 수단으로 악용될 수 있다는 점에서는 일각에선 우려도 제기되고 있다.