내 분신 돌아다니는 `오픈타운`, 혐오표현에서 안전할까

실시간
뉴스

솔루션

내 분신 돌아다니는 '오픈타운', 혐오표현에서 안전할까

디지털데일리 발행일 2022-02-23 14:42:28

박세아

URL복사

[디지털데일리 박세아 기자] 인공지능(이하 AI) 기업 마인드로직이 소셜 AI 메타버스 오픈타운의 출발을 알렸다. 가상공간 속 내가 만든 AI가 나를 대신해 사교와 경제활동을 할 수 있다는 사실은 사람들 이목을 끌기에 충분했다.

문제는 가상공간 속 또 다른 내가 될 AI의 윤리성이다. 지난해 출시됐던 챗봇 '이루다'가 혐오표현과 개인정보 노출 등 논란에 휩싸이며 잠정 중단된 상황을 비추어 봤을 때, 사람들 개개인의 말과 성격을 학습한 오픈타운 내 AI도 비슷한 문제가 있을 수 있다는 우려도 있다.

하지만, 마인드로직은 윤리 문제 관련 많은 고심을 거듭했다는 설명이다. 마인드로직 관계자는 23일 "기본적으로 소셜AI가 교육받는 과정에서, 입력 단계에서부터 성적 및 혐오 발언 등을 원천 차단한다"라고 말했다.

구체적으로 마인드로직은 3단계의 정제과정을 통해 윤리적 AI의 모습을 갖출 수 있도록 신경 쓴 것으로 보인다. 회사 관계자는 "보유하고 있는 데이터 중 성적, 혐오 발언으로 구분될 경우 바로 차단하는 1단계를 거쳐, 이후 입력 단계에서 문제성 발언을 필터링하고, 마지막으로 발화 단계에서 정제하는 과정을 거친다"고 설명했다. 만약 유저가 대화 중 성적, 혐오 발언 등을 하게 되면 최종적으로 별표로 찍혀 노출되는 방식이다.

전일 간담회 자리에서도 마인드로직은 오픈타운 이전의 자사 서비스까지 포함한 40만명에 육박하는 유저들 사이에서 해당 문제가 발생하지 않았다고 언급할 만큼, 윤리 문제 관련 자신감이 있는 모습이었다.

레벨이 높아질수록 나와 닮은 AI를 만들 수 있는 오픈타운 구조로 인해 어쩔 수 없이 개인정보 노출 우려가 생길 수 있다는 우려에도 큰 문제 없다는 입장을 취했다. 특히 개인정보 이용과 관련해서는 애초에 개인 정보를 거의 수집하지 않는다고 강조했다. 기술적으로 제너레이션이라는 방식을 사용해서 개인정보 관련해서 AI가 언급할 가능성이 낮다는 전제다.

마인드로직에 따르면 이미 개인정보를 넣지않고 고레벨을 획득한 유저들이 있다. 또 이름이라 생일 등까지 제약하기는 어렵지만, 전화번호나 계좌정보, 주민등록정보 등은 철저하게 오픈을 불가능하게 만들어 놨다고 전했다.

젠더나 종교갈등과 같은 사회적으로 첨예하게 갈등을 빚는 가치관은 어느 한쪽으로 편향되지 않도록 신경쓴 것으로 보인다. 다만, 개인이 AI를 성장시킬 때, 해당 AI가 개인의 관점을 반영할 수는 있다고 판단하고 있다.