코난테크놀로지, AI ‘편향성’ 연구 참여

실시간
뉴스

소프트웨어

코난테크놀로지, AI ‘편향성’ 연구 참여

디지털데일리 발행일 2019-08-08 14:55:37

백지영

URL복사

[디지털데일리 백지영기자] 코난테크놀로지(대표 김영섬)는 인공지능(AI) 모델과 학습데이터의 편향성 분석-탐지-완화·제거 지원 프레임워크 개발에 참여한다고 8일 밝혔다. 연구는 2022년까지 45개월 간 이뤄질 예정이다.

이번 연구의 목표는 ▲데이터 및 AI 모델의 편향성 분석을 위한 공정성 개념 및 측도 ▲데이터 및 AI 모델의 편향성 탐지-완화·제거 알고리즘 연구 ▲편향성 분석을 위한 시각화도구 개발 및 산업영역 적용 등이다.

코난테크놀로지와 함께 카이스트(KAIST), 연세대학교, 아크릴 등이 참여하며 페이스북, 마이크로소프트, UNU(United Nations University) 등과 국제 협력도 진행한다.

AI는 자율주행, 전문가 시스템, 정밀 의료 등 다양한 분야에 활용되며 연구가 계속되고 있지만 신용평가나 채용, 인사와 같은 HR 분야, 법원 판결 등 인간을 평가하는 분야에 있어서는 공정성이 요구되고 있다. 예측이나 평가에 성별, 인종, 지역 등에 따른 차별적 결과나 에러 문제를 보이는 경우가 있기 때문이다.

실제 MS가 지난 2016년에 선보인 AI 챗봇 ‘테이(Tay)’는 성·인종차별적 발언 문제로 16시간 만에 운영이 중지된 사례가 있다. 아마존의 AI 채용 시스템역시 10년 간 아마존에 제출한 이력서를 훈련데이터로 사용했는데 학습된 모델은 성차별적인 결과를 보인 바 있다. 아마존의 또 다른 이미지 분석 AI인 ‘레코그니션(Rekognition)’은 성별이나 인종에 따라 최대 35배까지 에러율 차이를 보였다.

코난테크놀로지 안춘근 이사는 “이번 연구로 AI 모델 데이터의 편향성을 자동으로 탐지하고, 편향성 완화·제거를 통한 학습이 가능할 것”이라며 “이를 통해 공정하고 안전한 의사결정이 가능한 AI 개발이 가능할 것으로 기대한다”고 말했다.

<백지영 기자>jyp@ddaily.co.kr