[딥페이크 사태 上] 정치권이 주목한 대안, 韓 어디까지 왔나

실시간
뉴스

인터넷

[딥페이크 사태 上] 정치권이 주목한 대안, 韓 어디까지 왔나

디지털데일리 발행일 2024-09-05 12:47:16

이나연 기자

URL복사

AI 생성물에 대한 워터마크 표기, 딥페이크 대책 급부상…네카오 기술 현주소는

최민희 국회 과방위원장이 28일 국회에서 열린 전체회의에서 의사봉을 두드리고 있다. 2024.8.28 [ⓒ 연합뉴스]

[디지털데일리 이나연기자] 딥페이크(인공지능 기반 이미지 합성 기술) 성범죄물 제작·유포 사태가 확산하면서, 정치권에서는 생성형 인공지능(AI) 저작물에 대한 워터마크(식별표시) 적용 의무화가 대안으로 주목받고 있다. 국내 양대 플랫폼 기업인 네이버와 카카오 모두 기술적으로 가시성·비가시성 워터마크 도입이 가능한 상황이지만 제한적인 적용을 통해 신중한 고민을 이어가는 모습이다.

◆딥페이크 논란에 ‘AI 기본법’ 논의 속도 내는 국회

5일 정보기술(IT)업계에 따르면 국회 과학기술정보방송통신위원회는 지난 3일 정보통신방송법안심사소위원회를 열고, AI 기본법을 비롯한 57건 법안에 대해 논의했다. 제22대 국회가 개원한 지 3개월 만에 처음 열린 과방위 법안 심사다. 그동안은 방송통신위원장 탄핵 소추, 방송 4법, ‘방송 장악’ 청문회 등 방송 관련 정쟁에 밀려 열리지 못했다.

AI 산업 육성과 가이드라인에 필요한 기본 사항을 규정하는 AI 기본법은 ▲AI 법적 정의와 AI 위원회 등 추진체계 ▲산업 진흥을 위한 3년 주기 국가 AI 기본계획 수립 ▲안전성 확보 방안 등을 담고 있다. 관련 법안은 지난 21대 국회에서 통합안까지 마련돼 법안소위를 통과했으나 1년 넘게 방치되다 자동 폐기됐다.

기존 AI 기본법들이 AI 산업 진흥에 초점을 맞췄다면, 이번 국회에서 재발의된 AI 기본법 방향성은 규제·제재 성격이 강화될 전망이다. 최근 딥페이크 성범죄물 심각성이 커지며 AI 기본법 제정 필요성에 대한 목소리가 급물살을 탔기 때문이다. 대표적인 규제 사항은 사업자를 대상으로 AI 생성물에 대한 워터마크 표시를 강제하는 것인데, 현재 국회에는 관련 법안이 9건 발의돼 있다.

◆AI 워터마크 기술, 도입했거나 검토 중이거나

텔레그램을 중심으로 한 딥페이크 성범죄물 논란에 앞서서도 AI 생성물은 가짜뉴스, 저작권 문제 등 이미 여러 논란의 온상으로 지목되며 대책이 강구됐다. 네이버와 카카오만 봐도 이미 자사 AI 서비스를 통한 생성물에 접목할 수 있는 워터마킹 기술력을 보유 중이거나 사용 경험이 있는 상태다.

네이버는 AI 안전성 실천 체계인 네이버 ASF(AI Safety Framework)를 발표한 데 이어 지난 7월 AI 워터마크 기술 표준을 구축한 ‘C2PA’에 국내 기업 최초로 가입했다. C2PA는 지난 2021년 온라인 콘텐츠에 대한 신뢰 구축을 위해 설립된 글로벌 연합체다.

딥페이크 악용 문제로 AI 콘텐츠 탐지 기술에 대한 관심이 높아지는 가운데, C2PA는 가장 공신력을 갖춘 기술 표준으로 인정받고 있다. 구글, MS 등 90여개 기업이 C2PA 회원으로 참여 중이며, 지난 2월부터 오픈 AI는 ‘달리3(DALL-E 3)’에 C2PA 워터마크 기술을 도입했다.

네이버는 AI 생성 콘텐츠 악용 방지를 위해 C2PA 회원 기업들과 워터마크 삽입 기술 최적화 등 기술 표준 연구를 공동으로 진행하는 한편, 워터마크 등 C2PA 기술 규약을 네이버 서비스에 적용하기 위한 구체적인 논의를 이어갈 방침이다.

카카오는 지난 3월 당시 AI 연구개발 자회사인 카카오브레인이 만든 카카오톡 채널 '칼로 AI 프로필' 기능에 비가시성 워터마크 기술을 도입했다. 작년 12월 공직선거법 개정으로 4·10 총선 기간 유권자를 상대로 한 AI 기반 딥페이크 제작·편집·유포·상영·게시가 금지된 데 따른 조치였다.

같은 달 이미지 생성 웹 기반 전문가 도구인 ‘칼로.ai’에도 비가시성 워터마크가 도입됐다. 그에 카카오는 앞서 이미지 생성 애플리케이션인 ‘비 디스커버’에도 가시성 워터마크를 도입한 바 있다. 다만 현재는 카카오가 워터마크 기술을 적용 중인 자사 AI 서비스는 없다.

카카오가 지난 6월 카카오브레인 주요 사업을 흡수합병하고 AI 전담 조직 ‘카나나’를 꾸리면서 칼로를 비롯한 기존 카카오브레인 AI 서비스가 모두 종료돼서다.

한편 전문가들은 AI 기본법이 산업 진흥에 중점을 두되, 최소한의 예측 가능성을 제시하는 일관적 가이드라인 등 자율규제를 지향해야 한다고 제언한다.

고환경 AI전략최고위협의회 위원(법무법인 광장 변호사)는 지난 4일 국회에서 열린 ‘AI와 디지털전환(DX) 미래정책 방향’ 토론회에서 ”미국도 AI 거버넌스와 관련한 부분을 먼저 정리했다“며 ”특히 고위험 AI에 대한 포괄적 규제 방식은 비용 측면에서 부담이 커 빅테크만 준수할 수 있다고 한다. 이는 스타트업 출현을 어렵게 할 수 있다“라고 전했다.

이어 ”규제는 최소화하고 신뢰성 확보 가이드라인 등 자율규제 방안으로 가야 한다“면서 ”AI 산업은 대규모 투자가 필요한 만큼 규제 불확실성을 빠르게 해소해야 하고, 양질 학습 데이터 확보를 위한 정부 지원도 고려해야 한다“라고 부연했다.