[취재수첩] 인공지능 윤리 고민, 기업에만 맡겨야하나

실시간
뉴스

이상일 칼럼

[취재수첩] 인공지능 윤리 고민, 기업에만 맡겨야하나

디지털데일리 발행일 2019-03-13 08:20:31

이상일

URL복사

[디지털데일리 이상일기자] 인공지능, 빅데이터 분석 등 데이터 분석의 실효성화 활용을 극대화하기 위한 금융당국의 정책 및 규제완화가 본격화되고 있다. 하지만 인공지능의 활용에 대해 전 세계에서 윤리적 규범 마련이 논의되고 있지만 아직 우리나라에서는 본격적인 논의가 진행되지 못하고 있다.

인공지능 기술의 금융 서비스 접목은 이미 상용화에 접어든 상황이다. 금융위원회는 2차 핀테크 지정대리인 선정을 통해 인공지능(AI)이 소액대출 고객의 금융정보를 모아 낮은 금리 상품으로 연결해주는 핀테크 금융서비스가 시행된다.

인공지능(AI)이 자산관리를 해주는 로보어드바이저 펀드도 이미 16개가 국내에서 운용되고 있다. 여기에 금융위원회는 로보어드바이저의 펀드 운용 자문에서 직접 운용까지 허용하도록 관련 규정을 개정해 로보어드바이저 업체가 펀드 재산을 위탁받아 직접 운용하는 게 가능해진다.

인공지능을 기존 서비스에 접목해 보다 고도화하고 효율성을 꾀하는 것 자체에는 큰 문제가 없다. 오히려 업계에서는 이로 인해 금융 서비스 사각지대에 있던 금융 소외계층에 대한 지원이 강화되고 금융 비용의 절감이 가능할 것으로 보고 있다.

다만 인공지능이 어떠한 데이터를 활용하고 어느 정도 수준의 데이터를 사용하고 있는지 투명성이 확보돼야 할 필요가 있다는 지적이 제기되고 있다. 더불어 인공지능이 해당 결과를 도출하기까지 과정을 인간이 이해하기 어려운 점이 있어 결과 도출 과정이 자연스럽게 묻힐 가능성도 높아 보인다.

예를 들어 이미지 분석의 경우 다양한 방면에 적용되고 있다. SAP는 선수 개인별 운동량, 순간 속도, 심박수, 슈팅 동작 등 90분간 쌓이는 432만가지 정보를 분석해 맞춤형 훈련 프로그램을 짜기도 했으며 SAS도 유럽 협력업체와 경기장에서 뛰는 선수를 추적해 이미지 분석을 사용하고 있다.

국내에서는 현재 보험개발원 등 보험사들이 이미지 분석을 보험료 산정 등에 적용하려는 시도를 하고 있다.

이에 대해 일크너 카이날 카불(Ilknur Kaynar Kabul) SAS 인공지능 및 머신러닝 R&D 책임 매니저는 “이미지 외에 많은 특징을 추출할 수 있다. 의사결정에 이 모든 정보가 필요한지 여부는 어려운 질문으로 이어진다. 예를 들어 여성이 옷을 입은 모습을 사진으로 찍고 추천을 받는다고 하면 사진 하나로 추가적인 정보 파악이 가능하다. 옷태로 미루어 임신여부를 확인하고 얼굴 표정으로 우울한지 여부 등을 파악하는 것이다”라고 설명했다.

단순히 사진 한 장이지만 여기서 추출할 수 있는 정보는 실로 다양하다는 지적이다. 게다가 여기에 인공지능이 가세할 경우 얼굴 표정 만으로도 다양한 결론을 유추할 수 있게 된다.

이러한 문제 탓에 글로벌 ICT기업들은 자체적으로 인공지능 윤리교범을 제안하고 있다.

최근 인텔도 미국 정부에 ‘AI를 위한 구체적인 국가 전략 제시’를 통해 “더욱 많은 데이터가 생성되면 AI 시스템은 더욱 지능적으로 변할 수 있으나 이에 따른 안전책이 필요하다”며 데이터 사용의 투명성과 국가적 데이터 보안 규제 개발을 장려해 혁신적이면서 윤리적인 데이터 활용을 허용하면서 개인정보를 보호할 필요성을 주문하기도 했다.

국내에서도 이러한 인공지능 윤리에 대한 문제의식을 바탕으로 논의가 시작되고 있다. 지난 7일 한국인공지능법학회와 KAIST 인공지능연구소, 바른미래당 신용현 의원 주최로 열린 ‘인공지능의 윤리적 개발동향과 입법대응과제’ 정책세미나에서도 AI에 대한 윤리적 대응 체계를 갖추는 일이 중요하다고 지적하기도 했다.

문제는 국가 차원의 인공지능 윤리규범이 마련되기 전에 결국 인공지능을 서비스에 적용하는 기업에서 인공지능 활용에 대한 비즈니스 적 의사결정을 해야 한다는데 있다. 인공지능 솔루션과 서비스를 제공하는 업체들은 말 그래도 인공지능 분석을 위한 ‘툴(Tool)’을 제공할 뿐 그 활용은 온전히 기업에 있다는 뜻이다.

나라에서 뚜렷한 움직임을 보이지 않는 한 당분간 데이터 분석의 윤리에 대해선 기업 자체적으로 판단한다는 얘기다. 이익 앞에서 기업의 자정노력이 얼마나 지속될 지 알 수 없는 만큼 국내에서도 인공지능 윤리에 대한 정부 차원의 논의가 필요해 보인다.

<이상일 기자>2401@ddaily.co.kr