3주 천하 `이루다`…`윤리적 AI` 거듭날 수 있을까?

실시간
뉴스

솔루션

3주 천하 '이루다'…'윤리적 AI' 거듭날 수 있을까?

디지털데일리 발행일 2021-12-24 13:27:50

박세아

URL복사

[디지털데일리 박세아 기자] 올해 1월 출시 3주 만에 서비스를 접었던 일상대화형 챗봇 '이루다'가 다시 돌아온다. 개발사 스캐터랩은 AI기술 관련 5가지 윤리 준칙을 수립했다고 밝혔다. 진짜 인간같은 AI서비스를 위해서다.

올해 초 출시됐던 이루다는 당시 사람과 같은 대화를 어느정도 구현하는 것으로 많은 사람들의 관심을 받았지만, 혐오표현과 개인정보 노출 등 논란에 휩싸이며 서비스를 잠정 중단했다. 이후 스캐터랩이 최근 원래 이루다를 업그레이드 시킨 이루다 2.0을 공식 출시하는 과정에 있다고 밝히면서 다시 한번 사람들의 이목을 끌었다.

이루다 개발사 스캐터랩은 이루다 2.0공식 출시에 앞서 클로즈 베타 테스트를 내년 1월11일부터 진행한다고 밝힌 상태다. 이 과정에서 스캐터랩은 지난 1월 서비스를 잠정 중단하고 챗봇 윤리 준칙을 정비, 서비스를 고도화했다고 강조했다.

스캐터랩 관계자는 "스캐터랩은 AI 기술 및 제품 개발 전반에 걸쳐 총 5가지 AI챗봇 윤리 준칙을 수립했다"며 "과학기술정보통신부에서 발표한 '사람이 중심이 되는 AI윤리기준과 내외부 기업 사례를 참고해서 만들었다"고 언급했다. 이렇게 만들어진 원리는 ▲다양한 삶의 가치존중 ▲함께 실현하는 AI챗봇 윤리 ▲합리적 설명을 통한 신뢰 관계 유지 ▲프라이버시 보호와 정보 보안 발전에 기여 등이다. 윤리 기준에는 사람을 위한 AI를 개발하겠다는 대원칙을 바탕으로 사용자들도 AI를 잘 활용해야 한다는 의미를 담았다는 설명이다.

회사는 많은 논란을 겪고 있는 '이루다'지만 궁극적으로 영화 'Her'에 나오는 AI '사만다'와 같은 모습이 되기를 기대하고 있다. 영화 속 사만다는 사랑이라는 감정을 배움으로써 더욱 수 많은 감정을 느낄 수 있도록 진화한다. 결국 스캐터랩이 꿈꾸는 이루다 모습은 진짜 사람과 같은 AI라는 의미다.

업계 관계자는 "진정한 의미의 AI는 윤리적 기준과 설명가능성을 모두 충족해야 한다"며 "궁극적으로 인간과 공생이 가능한 AI를 서비스하기 위해 데이터 편향성에 의한 인종, 문화, 성별 등 차별이 없어야 할 것"이라고 설명했다.

회사는 약 3000명을 대상으로 3주간 2.0 비공개 베타테스트를 진행하면서, AI 챗봇이 대화 문맥을 이해하고, 적절하게 답변하는지와 더불어 선정성, 공격성 등에 대한 대응을 검토할 예정이다. 공식 출시일정은 아직 정해지지 않았다. 회사 관계자는 "약 3000명을 페이스북으로 랜덤방식으로 선발하게 된다"며 "클로즈 베타 서비스를 거친 뒤, 그 결과에 따라 출시일정을 정하게 될 것"이라고 설명했다.

◆스캐터랩 둘러싼 논란, 종지부 찍었을까

AI윤리 뿐만 아니라, 개인정보보호 문제도 여전히 스캐터랩에게는 해결해야 할 문제로 남아있다.

이루다는 단기에 약 80만명 이용자를 모으면서 상당한 인기를 구가했다. 그만큼, 이루다의 차별과 협오발언 문제에 더해 특정인 실명 등 개인정보 유출 논란이 삽시간에 인터넷상에서 퍼졌다.

결과적으로 스캐터랩이 카카오톡 대화분석 서비스 연애의 과학, 테스트앳, 진저 등을 토해 수집한 이용자들 대화 약 100억건을 바탕으로 이루다 서비스를 제작한 사실이 드러났었다. 개인정보보호위원회는 스캐터랩이 이용자 동의 없이 개인정보를 수집하고, 해당 정보를 수집목적에서 벗어나 활용한게 맞다고 판단하며 개인정보보호법 위반으로 판단했다. 이와 같은 결과로 스캐터랩은 총 1억330만원 과징금과 과태료를 부과받은 바 있다.

문제는 스캐터랩이 이루다 2.0에 서비스가 잠정 중단된 이루다 1.0과 같은 출처 데이터를 모델에 학습시켰다는 사실이 알려지며 다시금 도마위에 오르내리고 있다는 것이다. 스캐터랩은 14세 미만이거나 삭제 요청 사용자 데이터를 제외하고 철저한 비식별화 과정을 거쳐 이루다에 적용해 문제가 없다고 판단하고 있다. 또 추가 필터링 단계를 거쳐 개인정보처럼 보이는 내용을 포함하지 않도록 조치했다는 입장이다.

스캐터랩 관계자는 "당사는 현행 개인정보보호법에 의거해 대화 데이터를 엄격하게 가명처리 한 후 과학적 연구 목적으로 사용하고 있다"며 "가명 처리한 데이터베이스는 과학적 연구 목적으로 AI 딥러닝 모델을 만드는데 사용하며, AI챗봇을 통해 발화하는 문장으로 사용하지 않는다"고 설명했다.

다만, 스캐터랩이 개인정보 유출 관련 법무법인 태림이 대리하고 있는 피해자 254명과 진행중인 손해배상청구소송도 아직 해결되지 않아 논란의 불씨는 여전히 남아있는 상태다. 이루다 1.0서비스로 인해 개인정보 유출 피해를 본 사람들은 이루다 서비스로의 데이터 전용을 문제삼고, 해당 데이터 전량 페기를 요구하고 있다.