[종합] 악의적 딥페이크와 전쟁 선포한 빅테크…네카오도 팔 걷었다

실시간
뉴스

인터넷

[종합] 악의적 딥페이크와 전쟁 선포한 빅테크…네카오도 팔 걷었다

디지털데일리 발행일 2024-03-08 17:51:23

이나연 기자

URL복사

틱톡과 페이스북 등에 올라온 46초 분량의 윤석열 대통령 풍자 영상. 해당 영상은 딥페이크 콘텐츠로 규정돼 방송통신심의위원회가 차단 조치를 내린 바 있다. 다만 경찰 검증 결과, 이 영상은 딥페이크가 아닌 원본 영상 짜깁기로 확인됐다. [틱톡 갈무리]

[디지털데일리 이나연기자] 다음 달 제22대 국회의원 선거를 앞둔 한국을 비롯해 올해 전 세계적으로 여러 선거 이벤트가 예정된 가운데, 국내 플랫폼 기업들도 해외 움직임에 발맞춰 선거 관련 악의적인 딥페이크 콘텐츠에 대한 대응 수위를 높이고 있다.

8일 한국인터넷기업협회는 회원사인 네이버, 카카오, SK커뮤니케이션즈가 올해 치러지는 선거 과정에서의 공정성과 신뢰성을 위한 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 채택했다고 밝혔다.

협약은 선거에 영향을 미치기 위해 악의적으로 제작·편집한 딥페이크 콘텐츠(영상·음성·이미지)를 대상으로 한다. 이는 국내외 주요 IT기업들이 악의적 선거 딥페이크에 대응하기 위해 자발적으로 구성한 자율협의체 활동의 일환이다.

공개된 선언문은 ▲악의적 선거 딥페이크의 위험을 낮추기 위한 탐지 및 신속한 조치 노력 ▲대응 정책 공개 등을 통해 대응 투명성 ▲확산 방지를 위한 지속적 논의와 정보 및 의견 교류 활성화 ▲다양한 시민단체, 학계 등 외부 전문가와의 지속적 교류 및 논의 ▲악의적 선거 딥페이크에 대한 대중들의 인식을 높이기 위한 노력 등이 골자다.

앞서 아마존, 구글, 메타, 마이크로소프트(MS) 등 글로벌 빅테크 기업 20곳은 지난달 16일(현지 시각) 독일 뮌헨안보회의(MSC)에서 딥페이크 부작용 차단을 골자로 한 합의문을 발표한 바 있다. 올해 세계 각국에서 열리는 선거 전후로 인공지능(AI)을 기반으로 한 허위 정보와 콘텐츠가 유권자를 기만하는 일을 막겠다는 취지다.

당시 이들 기업은 ▲딥페이크 콘텐츠에 AI가 생성했다는 라벨 부착 ▲위법한 콘텐츠 확산엔 신속한 공동 대응 ▲플랫폼이나 AI 도구에 악의적 콘텐츠 대응 안내문과 관련 교육 프로그램 제공 등의 구체적인 대안도 내놓았다.

발 빠른 글로벌 빅테크들의 행보에 국내 IT업계에서도 자율협의체를 꾸려 MSC에서 발표된 기술 협정과 같은 협약문 발표에 대한 필요성이 급물살을 탔다.

인기협 관계자는 “뮌헨협약이 발표된 다음 날부터 국내 플랫폼 기업들도 곧바로 자율협의체 준비 작업에 착수했다”라고 설명했다.

다만 네이버와 카카오, SK커뮤니케이션즈를 비롯해 구글코리아, 메타, 틱톡 등 국내외 IT기업들이 참여하는 자율협의체의 활동은 오는 4월 총선 기간까지로 한정됐다.

인기협 관계자는 “기만적 AI 선거 콘텐츠에 대응하는 것이 주목적인 만큼, 자율협의체 활동 기간을 선거 때까지로 정했다”라며 “앞서 뮌헨협약에 동참한 구글코리아, 메타(페이스북코리아·인스타그램코리아), X(옛 트위터코리아) 등 해외 기업도 국내 기업들과 함께 대응에 나설 예정”이라고 전했다.