IBM "AI 편향성 논란, 그것도 AI가 잡아낸다"

실시간
뉴스

IBM "AI 편향성 논란, 그것도 AI가 잡아낸다"

디지털데일리 발행일 2018-10-22 18:07:02

홍하나

URL복사

-IBM, ‘AI 오픈스케일' 연내 출시 예정

[디지털데일리 홍하나기자] 4차 산업혁명 시대에는 인공지능(AI)이 과연 모든 의사결정을 내리게 될까?

이러한 질문에 앞서 많은 전문가들은 AI의 '편향성'에 대해 우려하고 있다. 이에 대해 IBM은 기업에서 사용하고 있는 AI 모델의 도출 결과를 검증하는 'AI 플랫폼'을 연내 출시할 계획이어서 주목된다. 즉, AI를 검증하는 또 다른 AI인 셈이다.

관련하여 IBM은 개방형 기술 플랫폼인 'AI 오픈스케일(AI OpenScale)'을 공개했다. IBM은 최근 국내에서 진행된 AI 기자간담회를 통해 "AI 오픈스케일은 올해 말 IBM 클라우드와 IBM 클라우드 프라이빗을 통해 제공될 예정"이라고 밝혔다.

지금까지 업계를 비롯한 전문가들은 AI의 의사결정 과정에 대해 의문을 제기해 왔다. 실례로 지난 2015년, AI가 적용된 구글의 이미지 앱은 흑인을 고릴라로 인식하면서 거센 인종차별 논란에 휩싸이기도 했다.

또 최근 아마존이 개발 중인 AI 채용시스템이 여성차별 논란으로 폐기되는 등 AI의 편향성 문제는끊임없이 논란이 되고 있다.

조사결과에도 이러한 우려감이 그대로 담겼다. 최근 IBM 기업가치 연구소가 전 세계 5000명의 기업 임원을 대상으로 실시한 조사 결과에 따르면, 응답 기업의 82%는 AI 도입을 검토하고 있는 것으로 확인됐다. 하지만 이 중 60%는 "AI에 활용되는 데이터를 신뢰할 수 없다”며 AI 도입을 망설이고 있다.

최안나 한국IBM 왓슨사업부 기술영업팀장은 “아직까지 AI 속 내용은 확신할 수 없기 때문에 깜깜한 블랙박스와도 같다”면서 “IBM의 AI 오픈스케일은 AI 모델의 관리, 운영, 모니터링 등을 해결하기 위한 솔루션”이라고 설명했다.

이어 “AI 오픈스케일은 AI 수명주기 전반에 걸쳐 자동으로 의사 결정을 설명하고 편향성을 낮춘다"고 강조했다. IBM에 따르면 AI 오픈스케일은 의사결정 과정을 이해하고, 이를 쉬운 용어로 설명한다. 그런 다음 자동화된 편향 제거 기술에 기반해 AI 애플리케이션을 모니터링하고 편향성을 탐지한다. 발견 시 이를 해결한다.

뿐만 아니라 기업이 개인정보보호규정(GDPR) 등의 법률과 규정을 준수할 수 있도록 예측과 모델, 트레이닝 데이터 및 메트릭스에 관한 기록을 보전한다.

보험심사나 대출심사를 예로 들 수 있다. 보험사가 청구 시스템에 적용하기 위해 AI 파일럿 모델을 만들어도 실제 적용하는 데 어려움이 있다. 하지만 AI 오픈 스케일을 적용할 경우, 왜곡된 결과를 도출하지 않았는지, 왜 이러한 결과를 가져왔는지 등을 보여준다.

아울러 IBM은 AI 설계에 사용되는 심층신경망을 자동으로 구축하는 '뉴넷S(NeuNetS)' 신경망 합성 엔진을 연내 AI 오픈스케일 내에 제공할 계획이다. 뉴넷S는 AI 개발을 자동화하는 기술로, 기업은 맞춤형 AI 모델을 짧은 시간에 자동으로 설계하고 이를 트레이닝할 수 있다.

데이비드 케니 IBM 코그너티브 솔루션 담당 수석부사장은 "기업이 AI를 신뢰하고, 적용 분야를 확장할 수 있을 때 비로소 AI 경제를 구현할 수 있다"고 밝혔다.

<홍하나 기자>hhn0626@ddaily.co.kr