[현장] "sLM에 보이스피싱 데이터 학습"…에이닷, 내년 `온디바이스 AI` 구현

실시간
뉴스

통신*방송

[현장] "sLM에 보이스피싱 데이터 학습"…에이닷, 내년 '온디바이스 AI' 구현

디지털데일리 발행일 2024-11-04 17:10:22

채성오 기자

URL복사

강필균 SK텔레콤 AI사업 담당이 4일 열린 'SK AI 서밋 2024' 현장에서 온디바이스 AI를 활용한 보이스피싱 탐지 시스템에 대해 설명하고 있다. [ⓒ 디지털데일리]

[디지털데일리 채성오기자] SK텔레콤이 인공지능(AI) 개인 비서(에이전트) '에이닷(A.)'을 통해 '온디바이스 AI'를 상용화한다는 계획이다. 온디바이스 AI는 기기에 AI 모델을 탑재해 온라인 환경이 아닌 상태에서도 자체적으로 연산을 수행할 수 있는 만큼 높은 기술력을 요구한다.

4일 열린 'SK AI 서밋 2024'에서 강필균 SK텔레콤 담당은 '온디바이스 AI @에이닷 전화'를 주제로 한 세션에서 자사의 '온디바이스 AI 기반 보이스피싱 탐지 시스템'에 대해 설명했다.

강필균 담당에 따르면, 온디바이스 AI 기술로 구현한 보이스피싱 탐지 시스템을 이르면 내년 에이닷을 통해 구현할 계획이다.

현재 SK텔레콤 AI사업부는 소형언어모델(sLM)을 활용해 온디바이스 상에서 보이스피싱을 탐지하는 과제를 개발하고 있다. 사용자 단말에 탑재된 작은 규모의 인공지능 모델(sLM)과 음성을 텍스트로 변환하는 기술(STT)을 활용해 통화 내용을 실시간 분석하는 방식이다.

보이스피싱 특징을 학습한 AI 모델이 통화 중 문맥을 파악해 피싱으로 판단할 경우 사용자에게 알림을 제공하는 방식인 데, 외부 서버와의 통신 없이 단말 내에서 모든 처리가 이뤄지는 만큼 개인정보 유출 걱정 없이 사용할 수 있다는 장점이 있다.

강 담당은 온디바이스 AI를 통한 보이스피싱 탐지 시스템 개발 배경에 대해 "최근 딥보이스(목소리를 특정 상대로 변경하는 것) 등 AI 기술을 활용해서 가족의 목소리를 사칭하고 이를 통해 전화로 송금을 요구하는 범죄가 늘고 있다"며 "번호 차단만으로는 보이스피싱 범죄에 한계가 있고 내용과 형식이 다변화되는 시대에서 저희는 어떻게 하면 이 문제를 잘 풀어갈 수 있을까 많은 고민을 했다"고 밝혔다.

당초 SK텔레콤 AI 사업부는 인간의 언어를 가장 잘 이해할 수 있는 라지랭귀지모델(LLM)을 솔루션으로 설정하고 온디바이스 환경에서 통화를 듣고 바로 판단할 수 있는 기술을 떠올렸다. 특히 개인의 통화 내용은 민감한 개인정보에 속하기에 서버와 데이터 송수신이 없어도 구현 가능한 온디바이스 솔루션을 채택하게 됐다고 SK텔레콤 측은 설명했다.

SK텔레콤이 구현중인 기술은 전화가 걸려오면 고객 단말(스마트폰)에 내장된 AI 에이전트 LLM 모델이 축적된 통화 내용을 분석해 보이스피싱이라고 탐지되면 가족 및 본인에게 알리는 서비스 형태로 개발중이다.

현재 SK텔레콤은 챗 GPT 3.5 버전으로 테스트 중이지만 스마트폰에서 구현하기엔 큰 AI 모델인 만큼 sLM에 보이스피싱 데이터를 학습시켜 파인튜닝(미세조정)하는 형태로 방향성을 선회한 것으로 알려졌다. 이를 위해 SK텔레콤은 올 초 개인정보위원회, 금융감독원, 경찰청 등 유관기관들로부터 데이터를 요청해 지난 7월 가명 처리된 데이터 2만건을 받아 파인튜닝 과정을 거치고 있다.

강 담당은 "파인튜닝의 방향성은 오탐을 최소화하는 것을 최우선으로 하고 오탐률이 최소화된 상황에서 탐지율을 극대화시키는 방식"이라며 "서비스 출시 이전 최소 기능을 담은 MVP를 만들어 저희 기술이 피저빌리티(구현 가능성)가 있는 지 테스트하고 에이닷 전화 등 다양한 서비스에 연결하고 최종적으로 에이닷에 녹여내 내년 중 출시할 계획"이라고 말했다.