"AI 활용에 앞서 철저한 위험 관리체계 구축"… KB국민은행, AI 거버넌스 수립

실시간
뉴스

뉴스

"AI 활용에 앞서 철저한 위험 관리체계 구축"… KB국민은행, AI 거버넌스 수립

디지털데일리 발행일 2025-03-13 11:26:47

박기록 기자

URL복사

- AI 기술 관련 리스크 관리위한 KB국민은행만의 자체적인 거버넌스 수립

- AI 기술 활용의 모든 과정에 신뢰성과 투명성 확보

[디지털데일리 박기록기자] KB국민은행(은행장 이환주)이 디지털 금융 혁신과 신뢰할 수 있는 인공지능(AI) 기술 활용을 위해 AI 거버넌스를 수립했다고 13일 밝혔다.

'AI 거버넌스'는 AI 서비스를 활용함에 앞서 신뢰성과 투명성을 확보하고 윤리적·법적 책임을 이행하기 위한 관리 체계를 말한다. KB국민은행은 AI 활용이 증가하면서 발생할 수 있는 리스크를 관리하기 위해 2022년부터 자체적인 AI 거버넌스 수립을 준비했다고 설명했다.

KB국민은행에 따르면, AI 거버넌스는 ▲AI 윤리기준 및 조직문화 ▲위험평가 프레임워크 ▲생애주기별 위험관리정책 ▲금융소비자 보호 등 4가지 핵심요소로 구성됐다. AI 기술이 활용되는 모든 과정에서 신뢰성과 투명성을 확보하는 것을 주요 목표로 한다고 강조했다.

먼저 'AI 윤리기준 및 조직문화'와 관련, 국민은행은 AI의 도입 및 활용을 위해 모든 임직원이 준수해야할 기본 원칙이며, 모든 임직원은 AI 윤리교육을 정기적으로 받도록 했다. 또 AI 개발자에게는 별도로 개발 가이드 교육을 실시해 윤리적 기준과 책임의 중요성을 강조했다.

'위험평가 프레임워크'는 AI 서비스가 가진 잠재 위험을 사전에 식별하고 관리하는 체계다. 국민은행에 따르면 AI서비스의 위험등급을 ▲허용불가 ▲고위험 ▲중위험 ▲저위험 등 4단계로 분류하며, 높은 위험 등급으로 분류된 AI 서비스는 보다 강화된 관리방안을 적용 받는다. 허용불가로 분류된 서비스는 기본권 침해 또는 금융시장 건전성을 해칠 가능성이 존재하기 때문에 도입 자체가 불가하다.

'생애주기별 위험관리정책'은 기획부터 사후관리까지 AI 서비스의 생애주기를 반영한 위험관리 프로세스다. AI 서비스 모든 단계에서 ▲위험요소 검토 ▲데이터 신뢰성 및 편향 점검 ▲모델 성능∙공정성 평가 ▲정기 모니터링 및 개선을 통해 안전하고 윤리적인 AI 서비스 구현을 목표로 한다.

'금융소비자 보호'는 고객을 대상으로 하는 AI 서비스 도입에 대비해 ▲AI 활용 사실 고지 ▲거부 권리 보장 ▲설명 의무 ▲민원 및 피해구제 절차 마련의 내용이 AI 거버넌스에 포함됐다. AI 거버넌스 내용을 기반으로 금융소비자의 권리 보호에 앞장선다는 계획이다.

한편 KB국민은행은 AI 거버넌스 원칙을 뒷받침하는 최고의사결정 기구로 ‘AI윤리위원회’를 설치했다고 밝혔다. AI윤리위원회는 고위험 서비스 승인, 윤리기준 및 위험관리 정책 수립 등 AI의 윤리적 활용을 위한 전략 수립 및 의사결정 등의 역할을 수행한다.