AI 자율점검표 발표한 개인정보위··· ‘이루다 사태’ 재발 방지에 주력

실시간
뉴스

법제도/정책

AI 자율점검표 발표한 개인정보위··· ‘이루다 사태’ 재발 방지에 주력

디지털데일리 발행일 2021-05-31 15:37:13

이종현

URL복사

[디지털데일리 이종현기자] 인공지능(AI) 학습 과정에서 개인정보를 오·남용하는 것이 사회적 문제로 떠오른 가운데 개인정보보호위원회(이하 개인정보위)가 AI 자율점검표를 발표했다. 연초 개인정보 오·남용 및 유·노출 논란이 있었던 AI 챗봇 서비스 ‘이루다’와 같은 사태를 미연에 방지하기 위함이다.

31일 개인정보위는 산업계 의견을 수렴해 ‘AI 개인정보보호 자율점검표(개발자·운영자용)’을 공개했다. AI 설계, 개발·운영 과정에서 개인정보를 안전하게 처라히기 위해 지켜야 할 개인정보보호법상 주요 의무·권장사항을 단계별로 자율점검할 수 있도록 구성됐다.

자율점검표가 제작된 배경에는 이루다 사태가 있다.

이루다의 개발사 스캐터랩은 자사의 애플리케이션(앱) ‘연애의과학’ 및 ‘텍스트앳’에서 습득한 개인정보를 바탕으로 이루다의 AI를 학습시켰다. 이 과정에서 앱 이용자에게 적절한 개인정보 수집·이용 안내를 하지 않았고 비식별 조치 미흡으로 이루다를 통해 개인정보가 노출되는 일도 발생했다.

이에 개인정보위는 스캐터랩에 1억330만원의 과징금·과태료를 부과했고, 이용자의 집단 소송이 진행 중이다. 자율점검표 내용 군데군데에는 이루다 사태서 생겼던 문제가 재발하지 않도록 하는 조항을 넣었다.

자율점검표의 적용 대상은 개인정보보호법상 개인정보처리자(정보통신서비스 제공자 포함)와 개인정보취급자의 지위를 갖는 AI 개발자·운영자 등이다. 업무처리 전 과정에서 지켜야 할 6개 원칙과 단계별로 점겸해야 할 16개 항목, 54개 확인사항이 망라됐다.

개인정보위는 AI 서비스 특성상 의도치 않은 개인정보 침해가 발생할 수 있으므로 기획 단계부터 사전 점검과 예방을 위해 개인정보보호 중심 설계(Privacy by Design, PbD) 원칙을 적용하고 침해가 우려되는 경우 개인정보 영향평가를 수행하도록 권고했다.

또 AI 개발·운영을 위해 수집되는 개인정보가 적법한 절차를 통해 이뤄져야 한다고 강조했다. 동의 이외의 수집의 경우 근거를 확인하고, 공개된 정보 등 정보주체 이외로부터 수집할 경우 유의사항을 점검토록 했다. 또 수집한 개인정보 목적 외 이용은 적법한 근거를 확인하고, 동의 없이 가명처리해 활용할 경우 법규에서 허용하는 내용인지 등을 확인토록 했다.

이밖에 ▲개인정보 유·노출 및 해킹 방지를 위한 안전조치 점검 ▲개인정보 이용 후 안전하게 파기 ▲개인정보 취급자·개인정보 처리업무 수탁자에 대한 관리·감독 수행 ▲개인정보 처리내역 공개 ▲개인정보 열람·정정·삭제·처리정지와 같은 정보주체의 권리보장 절차 마련·이행 ▲개인정보보호활동 자율적 수행 ▲사회적 차별·편향 최소화하도록 점검·개선 및 AI 윤리기준 참고 등의 내용이 담겼다.

개인정보위 관계자는 “그동안 국내에서 논의된 AI 관련 프라이버시에 관한 사항은 추상적인 원칙 수준이었으나 이번 자율점검표는 AI 서비스의 개인정보 침해 사례와 산업계의 관심 사항을 구체적으로 반영했다”며 “자율점검표는 AI뿐만 아니라 다양한 정보통신기술(ICT) 서비스의 개발·운영에도 활용될 수 있을 것”이라고 전했다.

자율점검표를 마련했다고 끝이 아니다. ‘자율’점검표인 만큼 법적 구속력이 없기에 널리 활용될 수 있도록 하는 노력이 뒤따라야 한다. 개인정보위는 6월 초부터 AI 스타트업 대상 설명회를 개최하고 중소기업 컨설팅·교육 등에 적극 활용한다는 활용한다는 방침이다.

윤종인 개인정보위원장은 “AI 개발자·운영자가 이번 자율점검표를 적극 활용해 AI로 인한 개인정보 침해를 예방하고 보다 안전하고 신뢰할 수 있는 AI 서비스 환경을 조성하는데 도움이 되길 바란다”고 말했다.

한편 일각에서는 과도한 규제로 비화하는 것을 경계하고 있다. AI 분야는 데이터 활용이 필수인데 개인정보보호를 이유로 이를 막으면 관련 산업계 및 기술의 개발이 불가능하다는 주장이다. 개인정보위를 비롯한 정부에서도 이같은 비판을 의식해 활용과 보호의 균형점을 찾기 위해 절충안을 모색하고 있다. 이번 자율점검표도 이런 노력의 일환이다.

<이종현 기자>bell@ddaily.co.kr