네이버에서 ‘딥페이크’ 관련 검색어 입력하면 주의 문구 띄운다

실시간
뉴스

인터넷

네이버에서 ‘딥페이크’ 관련 검색어 입력하면 주의 문구 띄운다

디지털데일리 발행일 2024-02-28 17:14:10

이나연 기자

URL복사

총선 앞두고 딥페이크 등 허위 정보 확산 막는 방안 공개

[디지털데일리 이나연기자] 네이버가 오는 4월 제22대 국회의원 선거를 앞두고 생성형 인공지능(AI), 딥페이크(Deepfake·AI로 만든 영상·이미지 합성 조작물) 등의 피해 방지를 위한 다양한 대응책을 공개했다.

딥페이크는 사용 의도와 무관하게 그 결과물 자체로 인해 허위 정보를 확산시키거나 타인의 권리 침해와 성범죄 등을 일으킬 수 있어 제작뿐만 아니라 공유 시에도 주의가 필요하다.

특히 이번 총선에선 딥페이크 관련한 규정을 신설한 공직선거법이 시행된 데 따라 AI를 활용해 선거와 관련된 게시물이나 콘텐츠 제작할 때 주의가 요구된다.

28일 네이버는 네이버 다이어리 블로그를 통해 ‘딥페이크 등 AI 기술로 인한 피해의 방지를 위한 노력을 시작한다’라고 공지했다.

우선 네이버는 생성형 AI 서비스를 통한 선거 관련 정보 이용 시 주의 안내 문구를 추가한다. 네이버는 지난해 생성형 AI인 클로바 X 서비스를 시작으로 네이버 검색을 생성형 AI 기술로 고도화한 큐(CUE:) 서비스를 연달아 선보인 바 있다.

네이버는 이용자가 클로바 X와 CUE:를 선거와 관련된 정보 요청이나 예측 등에 사용할 때 생성형 AI의 기술적 한계를 명확히 하고, 제공이 어려움을 안내하기로 했다.

또한 다양한 형태의 사용자 질문이나 요청 형태로 인해 일부 관련 정보가 제공될 수 있는 점을 고려, 선거 기간 클로바 X와 CUE: 서비스 대화창 하단에 선거 관련 사용자 주의 안내 문구를 제공한다.

네이버는 선거 기간 이후로도 캠페인을 통해 딥페이크로 인한 문제를 알리고 이용자 주의를 요청하는 노력을 이어간다.

현재 블로그, 카페 등에선 동영상 등을 이용한 게시물을 작성할 때 딥페이크 관련 안내문구를 제공하고 있다. 이는 이용자가 새로 시행된 공직선거법 관련 내용을 확인 및 주의할 수 있게 하는 목적이다.

아울러 네이버 검색 서비스에선 검색을 통해 관련 정보나 콘텐츠가 유통되지 않도록 모니터링을 강화한다. 관련 검색어를 입력하는 경우, 검색 결과 상단에 딥페이크로 인한 문제와 주의를 환기하는 안내 문구도 노출하고, 딥페이크 관련된 게시물로 인한 피해 유형과 신고 방법 등을 확인할 수 있도록 도움말을 새롭게 구성할 예정이다.

뉴스 서비스에서도 AI, 로봇이 자동으로 작성한 기사를 사용자가 잘 인지할 수 있도록 표기를 강조할 방침이다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단엔 ‘이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성되었습니다.’라는 문구가 노출 중이다.