급증하는 기업 디지털 서비스, 고객은 AI를 얼마나 신뢰할까

백지영 기자 2019.05.15 09:43:21

-한국MS, “디지털 시대, 프라이버시도 인권”…AI 윤리 강조

[디지털데일리 백지영기자] 기업의 디지털 서비스를 이용하다 부정적인 경험을 하게 되면, 대다수의 소비자는 다른 서비스를 이용하거나 서비스 사용을 아예 중단한다는 조사결과가 나왔다. 보안이나 프라이버시, 신뢰성이 담보되지 않으면 기업 디지털 서비스 이용을 하지 않겠다는 얘기다.

14일 한국마이크로소프트(MS)는 서울 광화문 본사에서 기자간담회를 개최하고 시장조사기관 IDC와 공동으로 발간한 ‘디지털 서비스에 대한 소비자 신뢰 이해’ 조사 결과를 공개했다. 이번 조사는 한국을 비롯한 14개 아태지역 국가에서 6400명이 참여했으며, 디지털 서비스를 제공하는 금융, 제조 등 8개 업종을 대상으로 했다.

이번 결과에 따르면, 국내 응답자 중 절반 이상(56%)은 기업의 디지털 서비스를 이용하던 중 부정적인 경험을 하게 된다면 다른 기업의 서비스를 이용할 것이라는 답변을 내놨고, 40%는 디지털 서비스 사용을 아예 중단하고, 34%의 응답자는 서비스 이용을 줄일 것이라고 답했다.

한은선 한국IDC 전무는 “심지어 응답자의 15%는 주변 사람이 해당 서비스를 쓰려고 할 때 말리겠다고 답했다”며 “이같은 결과는 신뢰도가 산업 전반에 큰 영향을 미칠 수 있음을 시사한다”고 설명했다.

또, 조사결과에 따르면 기업의 디지털 서비스를 믿을 수 있는 요소로 신뢰성(87%), 보안(85%), 프라이버시(85%)를 꼽았다. 디지털 서비스를 제공하는 기업들의 개인 정보 처리 방식을 신뢰한다고 답한 국내 응답자는 18%에 그쳤다. 이는 아태 지역의 신뢰도가 31%인 것에 비해 매우 낮은 수치이다.

이밖에 인공지능(AI)에 대한 대해 한국 소비자는 2%가 부정적, 19%는 긍정적으로 평가했으며 71%는 양가적인 감정을 갖고 있는 것으로 나타났다. 업무처리나 여러 형태의 서비스를 제공받는 순기능에 대해선 긍정적이지만 신뢰도나 생활업무방식 변화에 대해선 불안해하는 감정이 동시에 나타났다.

한국MS 정교화 정책협력 법무실 총괄<사진>은 “IT 기업의 윤리적 책임과 사회적 역할이 그 어느 때보다 강조되는 만큼, 기업과 개인 모두가 믿고 사용할 수 있는 플랫폼 구축이 중요하다”며 “MS는 사이버 보안 분야에 1조12000억원을 투자하고 있으며 3500명 이상의 전문인력을 고용라고 있다”고 강조했다. 또, 이러한 노력의 일환으로 월 50억건의 멀웨어 공격을 방어하고 있다는 설명이다.

그는 “특히 MS는 제품 개발 디자인 단계부터 보안과 프라이버시를 녹여 이것이 제품의 한 특성이 될 수 있도록 노력하고 있다”며 “3년 전 런칭한 챗봇 ‘테이’ 사건을 계기로 특히 AI 윤리와 투명성, 책임감을 크게 강화하는 중”이라고 말했다.

현재 MS는 ‘신뢰’에 최우선 가치를 두고 디지털 서비스를 제공하는데 있어 ▲보안, ▲프라이버시, ▲투명성, ▲규정 준수, ▲윤리 등 5가지 요인을 바탕으로 하고 있다.

또, AI의 개발은 인간의 편향된 의사결정이 영향을 미치지 않도록 내부 AI 연구 인력을 위한 ‘AI 디자인 원칙’과 ‘AI 윤리 디자인 가이드’로 도덕적 AI의 중요성을 강조하고 있다.

정 총괄은 “디지털 세계에서 프라이버시는 곧 인권으로 인식하고 가장 우선시돼야 한다”며 “MS는 윤리 이사회를 설립해 MS에서 개발하는 모든 솔루션부터 정책, 프로세스에서 데이터 자체의 편향성과 적용 이후의 이슈 여부를 지속적으로 확인하고 있다”고 말했다.

<백지영 기자>jyp@ddaily.co.kr

맨 위로
관련기사