총선 대비 네이버…‘생성AI가 쓴 기사’ 알려주고 ‘허위정보 신고센터’ 신설

실시간
뉴스

인터넷

총선 대비 네이버…‘생성AI가 쓴 기사’ 알려주고 ‘허위정보 신고센터’ 신설

디지털데일리 발행일 2024-02-01 15:47:10

이나연 기자

URL복사

[디지털데일리 이나연기자] 네이버 뉴스가 오는 4월10일 제22대 국회의원 선거를 앞두고 본격적인 서비스 개편에 돌입한다. 앞으로 생성형 인공지능(AI)을 활용해 작성된 기사는 본문에 해당 사실이 기재된다. 네이버는 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용하는 한편, 별도 신고센터 영역도 신설할 예정이다.

1일 네이버는 공식 블로그를 통해 “제22대 국회의원 선거를 앞두고 선거 관련 허위 정보 확산을 막기 위해 다양한 기술적, 정책적 노력과 대국민 플랫폼의 책임을 다하겠다”라며 이같이 공지했다.

이날부터 네이버는 최근 생성형 AI의 본격적인 활용에 따른 뉴스 이용자의 혼란을 방지하기 위해 AI와 로봇이 자동으로 작성한 기사를 명확히 안내한다. 구체적으로 ‘이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성되었습니다’라는 문구가 기사 본문 상단과 하단에 노출된다.

아울러 네이버는 이달 중 이용자가 직접 선거 관련 허위 정보 뉴스 댓글을 신고할 수 있는 기능을 적용한다. 별도의 신고센터 영역을 신설해 선거관리위원회 채널로 이동할 수 있도록 연결할 예정이다.

뉴스 댓글 이외에도 카페와 블로그 등 네이버 서비스 전반의 허위 댓글을 막기 위해 해당 업데이트를 동일하게 적용할 계획이다. 선거 기간 이후 역시 기사 형태 허위게시물 신고에 대한 ‘KISO(한국인터넷자율정책기구) 가짜뉴스 신고센터 채널’을 안내하기로 했다.

네이버는 선거 관련 공정하고 정확한 정보를 제공하기 위해 이달 중 선거 관련 특집 페이지도 선보인다. 이어 뉴스 댓글 외 선거 기간 다른 서비스 영역에서의 생성형 AI 기반 가짜 정보 생성과 유통, 딥페이크((Deep fake·AI로 만든 영상 및 이미지 조작물) 영상에 대한 대응도 조만간 마련할 방침이다.

기존 방침 중에선 뉴스 댓글 집중 모니터링 기간 보안팀 내 전담 담당자를 확대하는 등 24시간 모니터링을 강화하고, 각 부서 핫라인을 구축해 이슈 발생 시 빠른 대응에 나설 예정이다.

네이버 관계자는 “문장 맥락을 파악해 혐오, 비하, 차별표현까지 걸러내는 클린봇과 더불어 매크로 사용 여부를 심층적으로 감지하고 분석하고 있다”라며 “AI 댓글과 딥페이크 등 신규 어뷰징 패턴을 지속적으로 분석하고 업데이트하는 등 감시를 강화하고 있다”라고 설명했다.

그러면서 “선거 관련 허위 정보 유포와 조직적 매크로, 어뷰징을 막기 위해 최선을 다하고, 대내외 의견을 경청하겠다”라고 덧붙였다.