AI로 가짜 쇼핑몰 뚝딱 만든다…"사기 수법 진화 중"

실시간
뉴스

보안

AI로 가짜 쇼핑몰 뚝딱 만든다…"사기 수법 진화 중"

디지털데일리 발행일 2025-04-16 20:00:00

김보민 기자

URL복사

[디지털데일리 김보민기자] 인공지능(AI) 기술을 악용한 사기 수법이 진화하고 있다는 분석이 나왔다. AI 도구로 사기성 전자상거래(이하 이커머스) 웹사이트를 구축할 뿐만 아니라, 가짜 후기를 생성해 사용자를 낚는 수법이 활개치고 있는 것으로 나타났다.

마이크로소프트(MS)는 16일 'AI 기반 사기 수법: 진화하는 위협과 대응 전략' 보고서를 통해 최신 위협 동향을 소개했다. MS는 지난해 4월부터 이달까지 약 40억달러 규모의 사기 시도를 차단헀고, 4만9000건의 허위 파트너 등록 요청을 거부했다. 시간당 약 160만건에 달하는 자동화된 프로그램(봇) 계정 생성 시도도 차단했다.

공격에 속도를 붙인 원인은 AI였다. 보고서에 따르면, AI는 사이버 범죄자들에게 공격 생산성을 높이는 도구로 활용되고 있고 기술적 진입 장벽을 낮추고 있다. 현실감 있게 위장된 공격 메시지나 콘텐츠를 빠르게 만들고, 적은 비용으로 공격을 가할 수 있어 사이버 공격 속도와 정밀도가 고도화되는 추세다.

AI 사기 공격은 이커머스 시장을 중심으로 성행하고 있다. MS 사기방지팀에 따르면 AI 공격은 중국과 유럽, 특히 독일에서 포착되고 있다. 독일은 유럽연합(EU) 내 최대 이커머스 및 온라인 서비스 시장 중 하나다.

보고서는 AI 도구를 사용하면 최소한의 지식으로 몇 분 만에 사기성 이커머스 웹사이트를 구축할 수 있다고 진단했다. 과거에는 공격자가 신뢰할 수 있는 웹사이트 제작이 수 일에서 수 주가 걸렸지만, 이제는 시간적 제약이 줄어들었다는 취지다. 보고서는 "사기성 웹사이트는 종종 정식 사이트를 정교하게 모방해, 소비자가 가짜로 인식하기 어렵게 만든다"고 말했다.

AI로 제품 후기 등을 조작하는 경우도 있다고 부연했다. AI로 생성된 제품 설명, 이미지, 고객 리뷰를 활용해 사용자에게 실제 판매자와 거래하고 있다는 인상을 줘 신뢰를 악용하는 수법이다.

이러한 사기 수법은 이커머스뿐만 아니라 구직 플랫폼에서도 발견할 수 있다. 보고서는 공격자가 생성형 AI 기술을 활용해 구직 플랫폼에 가짜 채용 공고를 쉽게 등록할 수 있게 됐다고 진단했다. 도용한 정보로 가짜 인사 담당자 프로필을 만들고, AI로 생성한 채용 설명과 자동화된 이메일 캠페인을 추진해 구직자를 노린다는 설명이다. AI 기반 인터뷰 응답 시스템과 자동 이메일까지 더해지면서, 사기성 채용 공고가 실제 제안처럼 보이게 돼 구직자들이 이를 식별하기 어려운 실정이다.

MS는 AI 기반 사기 위협으로부터 고객을 보호하기 위해 다양한 제품과 서비스를 제공하고 있다. '마이크로소프트 디펜더 포 클라우드'는 애저 환경 전반에서 종합 위협 보호 기능을 제공하고 가상머신, 컨테이너 이미지, 엔드포인트에 대한 취약점 평가 및 위협 탐지 기능을 포함하고 있다.

'마이크로스프트 엣지'는 딥러닝 기술을 기반으로 사이트 주소를 입력할 때 발생할 수 있는 철자 오류를 악용한 사기성 도메인 접속을 탐지 및 차단하는 기능을 제공하고 있다. 도메인 사칭도 마찬가지다. 또한 머신러닝 기반 스케어웨어 차단 기능을 탑재해 "컴퓨터가 손상되었습니다"와 같은 허위 경고를 띄우는 팝업창이나, 사용자를 속이기 위한 사기성 페이지를 자동 식별하고 차단한다.

켈리 비셀(Kelly Bissel) MS 사기방지 및 제품악용 총괄 부사장은 "사이버범죄는 이미 수조 달러 규모의 문제로, 지난 30년 동안 지속 증가해왔다"고 강조했다. 이어 "오늘날 우리에게는 AI를 빠르게 도입해 노출 격차를 감지하고 해소할 기회가 있다"며 "이제 우리는 대규모 변화가 가능한 AI를 보유하고 있고, 이를 통해 제품에 보안 및 사기 방지 기능을 빠르게 구출할 수 있다"고 말했다.

한편 MS는 사이버 범죄를 예방할 방안도 소개했다. 충동구매 유도, 허위 사회적 증거 조작, 검증 없는 광고 클릭, 검증되지 않은 결제 수단 등을 경계해야 한다는 것이 골자다. 아울러 고용주 합법성을 검토하고, 전형적인 채용 사기 징후에 대한 경각심을 갖고 AI 기반 인터뷰와 소통을 경계하라고 조언했다.