AI와 통계는 상호이익 관계, "금융 인공지능 활용 사회적 합의 필요"

실시간
뉴스

금융IT

AI와 통계는 상호이익 관계, "금융 인공지능 활용 사회적 합의 필요"

디지털데일리 발행일 2019-03-07 08:27:34

이상일

URL복사

[디지털데일리 이상일기자] 빅데이터, 인공지능 등 다양한 데이터 분석 기술을 바탕으로 우리나라는 ‘데이터 경제’ 시대에 본격적으로 접어들고 있다. 데이터 경제에 부응하기 위해 금융권에서는 개인신용정보 등 민감 정보의 클라우드 이용 가능, 지주사 차원의 고객 정보 공유 등 완화된 정책을 펼치고 있다.

은행권 대상으로 6일 SAS코리아가 개최한 SAS 뱅킹 이노베이션 포럼(SAS Banking Innovation Forum)에 연사로 참여한 일크너 카이날 카불(Ilknur Kaynar Kabul) SAS 인공지능 및 머신러닝 R&D 책임 매니저는 <디지털데일리>와의 인터뷰를 통해 “외부 데이터 활용 방법의 경우 전 세계적으로 규제 움직임이 있는 것이 사실”이라며 “분석가 입장에선 데이터가 많을수록 좋은 것이 맞지만 어디까지 정보를 사용하고 활용할 수 있을지는 비즈니스 부문에서 결정해줘야 한다. 또 이에 대한 규제는 마련이 되어야 한다. 정보는 공개될수록 효율화되는 것은 많지만 사회적 합의가 필요한 부분이다.”라고 밝혔다.

최근 ICT업계는 인공지능(AI)와 머신러닝(ML)을 인간에게 많은 기회를 제공하는 자동화를 위해 구현하고 있다. 자동화를 통해 사용자들이 가치를 창출하는데 초점을 맞추고 있는 셈이다.

카불 매니저는 “최신 기술을 활용해 알고리즘을 적시적소에 적용하고 있다. 딥러닝을 활용하고 있고 강화학습을 통해 비즈니스 문제점을 해결하고자 돕고자 한다. 또, AI를 위한 AI도 제공하고 있다”고 밝혔다.

‘AI를 위한 AI’는 다양한 AI기법을 통해 AI를 향상하는 IT 기술을 의미한다. 카불 매니저는 “심층 학습, 강화학습이 모두 AI인데 보다 이밖에 더 AI아키텍처를 향상시키는 기술이라고 할 수 있다.”며 “AI는 속성상 복잡하다. 인간이 쉽게 접근할 수 있는 시스템을 만드는 것이 우리의 목적이다. 가령 머신러닝 시스템은 복잡한데 과정을 통해 무엇을 배웠는지 파악하기 쉽지 않다. 때문에 ‘신뢰’가 필요하다. 설명할 수 있어야 하고 해석 가능해야 한다는 점이다”라고 설명했다.

실제 인공지능이 내린 결과에 대해 그 과정에 대해 궁금해 하는 경우가 있다. 이는 구글 ‘알파고’의 한수가 어떤 의도에서 나온 것인지 아직도 명쾌하게 밝혀지지 못한 것과 비슷하다. 결과는 나왔는데 그 과정이 숨겨져 있다면 기업의 경우 의사는 결정했는데 해당 결정의 이유는 모르는 셈이 된다.

이에 대해 카불 매니저는 “누군가 대출을 신청해 AI가 안된다고 거부한다면 왜 거부했는지, 과거 소비자 행태 때문 등인지 파악해야 한다. 다만 AI가 결정하는 결정 바운더리가 복잡한데 이를 추적해서 시각화한다는 개념보다는 함수 개념으로 바운더리에서 선형적 모델로 최대한 간소화해서 분석가가 이해할 수 있게 하는 것이 중요하다”고 설명했다.

마찬가지로 최근 규제 대응을 위한 ‘레그테크’ 등에 머신러닝 등의 기술이 적용되고 있는데 여기서도 ‘투명성’은 중요한 문제라는 것이 카불 매니저의 지적이다.

카불 매니저는 “왜 인공지능이 그러한 결정을 했는지 해석이 가능해야 컴플라이언스, 규제에 적용이 가능할 것으로 보인다. 신뢰 가능한 결정인지, 재생성할 수 있는지 봐야 한다. 규제 부분에 있어서는 ‘신뢰’와 ‘재생성’ 분야가 중요하다. 결론적으로 인간에게 영향을 직접 미치는 부분은 신중해야 한다”고 밝혔다.

이 같은 점에서 SAS가 차별화된 것은 인공지능 분석 라이프사이클을 제공한다는 점이다. 전체 프로세스를 순환적으로 보고 데이터 모델 구축에서 끝이 나는 것이 아니라 분석 특징을 발견하고 모델의 환경이 적합한 지 등을 제공한다.

한편 금융 시장에서도 인공지능과 머신러닝 기술이 활발하게 적용되고 있다. 예를 들어 강화학습이 활용되는 분야가 ‘적대적 에이전트’를 훈련시키는 것이다. 예를 들어 사기방지의 경우 사기꾼들이 해당 시스템의 취약점을 파악하려 하는데 적대적 에이전트를 미리 사기방지 시스템에 설치하고 자체적인 취약점을 파악할 수 있고 파악된 취약점을 좀 더 보강할 수 있다.

인공지능은 ICT업계에도 많은 변화를 이끌어내고 있다. 그 중 전통적인 통계분석 시장 플레이어들에게 인공지능은 어떤 영향을 미치고 있는지 물었다. 카불 매니저는 “분석과 인공지능 모두 수학을 기반으로 두고 있다. AI와 통계는 궁극적으로 협업하는 방향으로 가는 것이지 AI가 통계를 대체한다는 것은 아니다. 왜냐하면 통계는 AI의 진전을 돕고 있기 때문이다. 결국 AI와 통계는 상호이익을 주는 관계”라고 밝혔다.

<이상일 기자>2401@ddaily.co.kr