[국감2024] 네이버, 올해는 AI 문제로 ‘진땀’...AI외설 이미지·불공정 약관 논란

실시간
뉴스

e비즈*솔루션

[국감2024] 네이버, 올해는 AI 문제로 ‘진땀’...AI외설 이미지·불공정 약관 논란

디지털데일리 발행일 2024-10-09 09:14:13

오병훈 기자

URL복사

[디지털데일리 오병훈기자] 네이버가 올해 국정감사에서는 인공지능(AI) 현안 질의로 진땀을 뺐다. 자회사 스노우의 AI 합성 서비스에서 선정적 이미지가 출력되는 부작용 문제와 이용자 콘텐츠를 AI에 학습시키는 것을 필수적으로 동의하도록 하는 불공정 약관 등이 지적 대상으로 언급됐다.

이같은 논란과 별개로, 소버린AI와 관련해 네이버 AI 경쟁력을 묻는 질문과 국내 AI 인재 유출을 막기 위한 지원책 필요성에 대한 내용도 함께 언급됐다. AI와 관련된 현안은 대부분 네이버 및 네이버 자회사 관계자에게 집중된 셈이다.

전날(8일) 하정우 네이버클라우드 AI이노베이션센터 센터장과 김창욱 스노우 대표는 과학기술정보통신부 국정감사에 출석해 AI와 관련된 현안 질의에 답변했다.

◆딥페이크 논란 속 터진 AI합성 서비스 오류

가장 주목 받았던 사안은 카메라 애플리케이션(앱) ‘스노우’와 ‘소다’에서 발생한 AI 합성 서비스 오류 문제였다. 두 앱은 모두 네이버 자회사 스노우가 운영하는 서비스다. 스노우에서는 이용자 사진을 기반으로 다양한 머리 스타일을 연출할 수 있는 ‘AI헤어샵’ 서비스를 제공한다. 소다에서는 이용자 주변 배경을 자동으로 합성해주는 ‘AI배경확장’ 서비스를 운영 중이다.

문제는 두 서비스에서 선정적인 이미지가 출력됐다는 것이다. 소다 AI배경확장에서는 이용자 증명사진을 기반으로 여성 이용자가 가슴을 움켜쥐는 모습을 출력하거나, 스노우 AI헤어샵에서는 이용자 얼굴을 합성한 상반신 나체 이미지가 생성되는 등 부작용이 나타난 것으로 알려졌다. 최근 AI 합성 기능을 이용한 딥페이크 성범죄 문제가 대두되는 상황이었기 때문에 서비스 오류로 외설 이미지가 출되는 문제는 더 큰 주목을 받게 됐다.

이날 국정감사 현장에서 이해민 의원(조국혁신당)은 김 대표를 향해 “의원실에서 해당 논란과 관련해 회사에 질의를 했을 때, 스노우에서는 해당 서비스가 오픈소스 AI인 ‘스테이블 디퓨전’을 기반으로 한 것이기 때문에 회사 측 책임이 아니라는 취지로 답변했다”며 “오픈소스를 활용하더라도, 사업자로서 서비스 문제에 대한 책임이 있다”고 비판했다.

이어 “이미지 출력 마지막 랜더링 작업을 하면서 필터링을 넣을 수 있는 것으로 안다”며 “스노우에서는 오픈 소스라는 이유로 책임을 피하지 말고 필터링 기술을 조속히 추가하길 바란다”고 강조했다.

앞서 스노우 운영진은 논란이 커지자 사과문을 게재한 바 있다. 스노우 운영진은 “현재 AI 기술 상 한계로 이미지 생성 엔진에서 불완전한 결과물이 산출될 가능성이 존재한다”며 “스노우는 선정적이거나 혐오스러운 이미지 생성을 최대한 억제하는 기술을 사용하고 있으나, 문제가 된 내용은 스노우 AI 모델 한계로 완벽히 통제되지 못한 사례로 확인된다”고 해명했다.

◆AI에 콘텐츠 제공 의무 동의 강제…불공정 약관 논란엔 “검토하겠다”

하 센터장에게는 이용약관 관련 질문이 이어졌다. 박민규 의원(더불어민주당)은 “네이버 약관을 살펴보니 블로그나 카페 게시글 등 이용자가 생산한 콘텐츠를 네이버 AI 학습 데이터로 활용하는 것에 동의해야만 가입을 하도록 약관이 만들어졌다”며 “공정거래위원회(이하 공정위)에 확인해본 결과 (네이버를 대상으로) 약관법 위반 관련 조사를 진행 중이라는 답변받았다”고 말했다.

이어, “약관법 제6조 ‘일반 원칙’ 제2항의 1호 ‘고객에게 부당하게 불리한 조항’이 조사가 시작된 근거인데, 네이버 측은 약관을 개정할 생각이 없나”라고 물었다.

이에 하 센터장은 “이용자 편의를 위해서 한 것이긴 하지만, 공정위나 이용자 입장에서는 다르게 볼 수도 있는 부분이기 때문에 내부적으로 검토 중인 상황”이라며 “우려에 충분히 공감하고 있다. 다만, 블로그 및 카페 이용자는 각종 게시물 콘텐츠를 학습한 AI를 활용하면 양질의 글을 작성할 수 있다는 장점이 있다”고 답했다.

아울러 그는 “네이버 블로그에서는 광고 수익을 블로그들에게 제공을 하는 ‘애드포스트’를 운영 중인데, 콘텐츠 품질이 좋아지면 이용자에게 돌아가는 광고 수익도 늘어날 거라고 생각한다”며 “모든 블로그 이용자가 AI 도구를 쓰게 된다는 것은 AI 자체가 보편 기술화가 된다는 뜻이고, 보편 기술에 대해서는 일반적으로 필수 동의를 하는 경우가 많아서 그런 약관을 포함시킨 것으로 이해하고 있다”고 해명했다.

◆소버린AI 자신감 보인 하정우 센터장…“인재 유출 방지 위한 정책 지원 필요”

최형두 의원(국민의힘)은 하정우 센터장을 대상으로 소버린AI 실현 가능성 여부를 물었다. 소버린AI란 국가나 기업 자체 인프라·데이터로 독립 AI를 구축, 주권을 확립하는 것을 의미한다.

하 센터장은 “(네이버 AI 관련) 수치가 메타가 선보인 오픈소스 AI모델 라마에 비해서 한국어 능력은 훨씬 더 좋고 영어 능력은 거의 비슷한 모델을 확보를 하고 있다”며 “(소버린AI를) 충분히 만들 수 있으며, 그 능력을 인정받아서 사우디아라비아에서 소버린 AI 만드는 것도 함께 진행할 수 있게 됐다”고 말했다.

네이버는 최근 소버린AI를 강조하며 다양한 활동을 이어온 바 있다. 특히 하 센터장은 네이버 내 AI 사업을 주도하는 인물이며, 지난달 사우디아라비아에서 개최된 ‘AI서밋2024’에 최수연 네이버 대표와 동행한 바 있다. 공식 석상에서도 네이버가 강조하고 있는 ‘소버린AI’ 중요성을 알리는 등 왕성한 활동을 이어오고 있다.

최 의원은 AI 인재 유출문제와 관련해서도 질문했다. 그는 “국내 AI 인재가 해외로 자꾸 유출되고 있는데, 어떻게 하면 AI 인재를 지킬 수 있다고 보나”라고 질의 했다.

하 센터장은 “인재 유지 정책을 지금보다 훨씬 더 파격적으로 바꿔야 한다고 생각한다”며 “훌륭한 인재 양성 정책이 있지만, 상대적으로 (해외에 나간 인재를) 다시 데리고 오는 정책이 조금 아쉬운 부분이 있어 해외로 인재가 나가는 걸 무작정 막기 쉽지 않을 것으로 보인다”고 말했다. 또, “해외로 나가서 잘 배운 인재들이 다시 돌아올 수 있도록 돕는 정책도 함께 세우는 것이 중요하다고 생각한다”고 전했다.