가족 목소리도 흉내내는 AI피싱 범죄…"답이 없다"

실시간
뉴스

e비즈*솔루션

가족 목소리도 흉내내는 AI피싱 범죄…"답이 없다"

디지털데일리 발행일 2024-07-22 18:01:12

오병훈 기자

URL복사

금융고객 사기범죄 피할 능력 키워주는 것이 중요

이원석 검찰총장이 22일 개최된 ‘민생침해범죄 대응 강화방안 모색을 위한 세미나’에서 환영사를 하고 있다.

[디지털데일리 오병훈 기자] AI 발달은 생활 속 편리함을 가져왔지만, 이면에는 기술 활용 범죄가 고도화되는 부작용을 낳기도 했다. 일개 개인이나 기업이 이를 막기는 역부족인 상황, 이에 효율적인 사전 대응을 위한 민관 협력 방안을 논의하는 자리가 마련됐다.

22일 대검찰청과 은행연합회가 공동으로 주최한 ‘민생침해범죄 대응 강화방안 모색을 위한 세미나’에서 이원석 검찰총장은 “(보이스피싱 범죄는) 형사처벌만으로는 막을 수 없고, 사전에 범죄를 막고 차단하는 것이 훨씬 중요하다”며 “이를 위해서는 금융 및 통신 기반 대책을 마련해 적극 대응하는 것이 결정적 기여가 될 것”이라고 강조했다.

형사사법정보시스템(KICS)에 따르면 지난해 사이버 사기는 16만7688건이 발생했으며, 이로 인한 피해액은 1조8111억원에 이른다. 대부분은 투자사기 등을 포함한 ‘기타’ 유형 항목(1조4839억원)에서 발생했다.

이윤석 금융연구원 선임연구위원은 “한 어머니가 (AI로 생성된) 딸 목소리로 전화가 와서 납치가 된 것으로 생각하고 피해를 당하는 일이 발생하기도 했다”며 “더 나가 영상까지도 모방할 수 있는 시대가 왔기 때문에, 목소리와 영상까지 AI에 학습시켜 사기 행각에 활용한다”고 경고했다.

그는 생성형 인공지능(AI)을 활용한 범죄 수법에 대해서도 언급했다. 다크지피티(GPT) 웜지피티(WormGPT) 등 사기 수법을 설계하는 생성형 AI가 나타났으며, 범죄자와 단속 당국 중 누가 먼저 첨단 기법으로 앞서 나가는지가 중요한 시대가 도래했다는 분석이다.

이 연구위원은 이를 예방하기 위한 민관 협력 중요성을 강조했다. 현재 국내 금융 기업에서는 다양한 사전 대응 기술을 서비스에 적용 중이다. 그는 예시로 ▲신한은행 ‘AI 이상행동 탐지ATM ▲KB국민은행 ’보이스피싱 예방 서비스, 피싱 보험 ▲IBK기업은행 ‘보이스피싱제로화 ▲카카오뱅크 ’모임통장 약관변경‘ ▲토스뱅크(실시간 신분증 이상 탐지 시스템 등을 꼽았다.

이윤석 금융연구원 선임연구원이 '금융부문의 보이스피싱 예방 현황 및 과제'를 주제로 발표 중이다.

이어서 마이크를 잡은 이여정 경찰청 계장은 AI 악용 사이버 사기 위험성과 관련 ‘사이버사기 피해 현황 및 제도 개선 방안’을 주제로 발표했다. 그는 AI 딥페이크 기술을 활용해 유명 연예인 얼굴을 모방한 콘텐츠를 생성하거나, 사기 투자 상품 구매를 유도하거나, 가짜 사이트를 활용해 계좌번호와 비밀번호를 탈취하는 직거래 사기 등 다양한 신기술 활용 범죄 유형을 설명했다.

또, 그는 “챗GPT에게 단순히 ‘탈취용 악성코드 제작’을 의뢰하면 법률 위반이라며 거절하지만, 이용자가 범죄의도를 숨기고 기술 용어로만 코딩 작업을 할 경우 우회해 악성코드 제작이 가능하다”며 “이를 통해 피싱 이메일 문구 생성, 딥페이크 기술을 활용한 신분 위장 등으로 활용될 수 있다”고 설명했다.

늘어나는 신기술 피싱 범죄를 해결하기 위해 경찰청 국가 수사본부에서는 올해를 ‘사기범죄 퇴출 원년’으로 선포하고, 사기 범죄 감소를 위해 사건 중심 단속이 아닌 데이터 분석 및 예방에 기반한 전략적 범죄 대응체계를 구축하기로 했다.

이에 따라 경찰청에서 운영하는 사전 경보시스템 ‘사이버캅’의 ‘사이버사기 의심번호 조회’ 기능을 은행권이나 온라인 플랫폼에 확대 연계한다. 사이버캅 응용프로그램인터페이스(API)를 금융회사에 제공해 회사가 범죄 의심 계좌 지급 정지를 검토할 때 해당 계좌 이력을 즉시 조회할 수 있도록 하기 위함이다.

22일 '민생침해범죄 대응 강화방안 모색을 위한 세미나' 참석자들이 토론하고 있다.

이어지는 토론에서는 성수용 금융감독원 선임 교수가 “답이 없다”며 “우리는 이 사람(범죄자들)을 이길 수 없다고 선언하는 부분에서 (대응 논의를) 시작해야 한다”고 일갈했다.

범죄집단은 수법을 연구하면서 전문가로 성장하는 반면, 월급을 받는 공무원은 매번 담당자가 바뀌면서 전문 역량을 키울 여력이 없기 때문에 현 상황이 지속되면 범죄 예방은 사실상 불가능하다는 비판이다.

금융IT 기업 패널로 참석한 백종윤 소비자보호팀장은 “보이스피싱 예방 업무를 7년째 담당 중인데, 전자거래 환경이 변화되면서 사기 수법도, 금융권 감독 당국의 예방도 고도화 되고 있다”며 “하지만 7년 전과 비교해 피해자 수는 크게 줄지 않고 유지되고 있으니 결국은 사기 피해를 인지시키는 지원이 절실하다고 본다”고 주장했다.

부처·지자체·기관에서 진행하는 일시적인 예방 교육이 아니라 학생 때부터 교과과정에 금융 지식 과목을 포함해 사기 범죄를 피할 힘을 길러주는 것이 중요하다는 설명이다.

마지막으로 그는 “(범죄 의심 계좌에 대한) 신속한 지급 정지를 위한 제도적 노력이 필요해 보인다”며 “도박 사이트 민간 제보 등이 활성화될 수 있고, 법적 근거가 마련된다면 신속한 지급정지 조치를 통해 도박 사이트 운영자를 묶을 수 있다”고 강조했다.