실시간
뉴스

보안

금융권 덮친 'AI 해킹' 공포…"AI 자율 침투 콘솔" 문자열 포착

디지털데일리 발행일 2026-10-02 15:16:57
김보민 기자

공격 자동화 속도 못 따라가는 방어 체계…비인간신원(NHI)·제로트러스트 보안 과제로

10월1일 서울 중구 신한은행 본사 [사진=연합뉴스]

[디지털데일리 김보민기자] 국내 금융권을 겨냥한 개인정보 유출 사고가 이어지면서 인공지능(AI) 에이전트 해킹이 현실이 됐다는 평가가 나온다.

전문가들은 공격 속도에 맞춰 방어 체계를 구축하는 것이 어려워진 만큼, 피해 범위를 최소화하고 해커 관점에서 보안 전략을 구축하는 것이 시급해졌다고 입을 모았다.

2일 보안업계에 따르면 신한은행을 겨냥한 것으로 추정되는 '크리덴셜 스터핑(무차별 대입)' 공격에 활용된 웹서버 HTML 타이틀에서 중국어 기반 AI 도구 흔적이 발견됐다.

해당 도구 문자열은 'ARTEX- 自主渗透测试控制台'로 확인됐다. 이는 'AI 자율 침투테스트 콘솔'을 의미하는 표현이다. 문종현 지니언스 시큐리티 센터장은 이날 링크드인을 통해 "해당 인프라에서 ARTEX AI가 운영됐거나 관련 환경이 활용됐을 가능성을 보여주는 정황"이라며 "이번 공격에서 AI 기반 공격 자동화 도구가 활용됐을 가능성을 의심하고 있다"고 말했다.

ARTEX AI는 중국어를 중심으로 깃허브(GitHub)에 오픈소스로 공개된 대형언어모델(LLM) 기반 자율형 침투테스트 시스템으로, LLM과 멀티에이전트 구조를 기반으로 공격 대상에 대한 정보를 수집해 공격 경로를 계획할 수 있다. 이를 기반으로 보안 도구를 실행하거나 취약점을 발견했을 것으로 추정된다.

보안업계에 따르면 ARTEX AI는 올해 중국 바이두 BSRC가 주도한 '에이전트+' 공방 능력 대회에서 우승을 하는 등 분석 역량을 인정받아왔다. 이에 기반해 중국에서 활용 사례도 증가하는 것으로 알려졌다. 업계 관계자는 "현재 살아있는 ARTEX AI 서버만 400여개"라며 "나쁘지 않은 숫자로 중국 쪽 계열에서 많이 활용하는 분위기"라고 말했다.

첨단 AI 모델을 악용한 공격이 거세지고 있다는 지적은 연초부터 제기돼 왔다. 대표적으로 고위험 취약점 탐지에 능한 것으로 알려진 앤트로픽 '클로드 미토스'를 시작으로, AI가 해킹에 악용될 가능성은 꾸준히 제기되고 있다. ARTEX AI의 경우 한 단계 나아가 에이전트 기반 공격이 거세질 수 있다는 점을 보여주고 있다.

ARTEX AI처럼 본래 취지를 넘어 악용되는 도구도 늘어나는 추세다. 대표적으로 사이버스트라이크AI(CyberStrikeAI)가 있다. 사이버스트라이크AI는 AI 기반 오픈소스 오펜시브 보안 테스트 플랫폼으로, 보안 연구원이나 모의해킹 전문가(화이트해커)들이 취약점을 발견하고 방어 체계를 수립하기 위해 만들어진 합법 도구였으나 최근 해커에 의해 사이버 공격에 악용되고 있다. 보안업계 관계자는 "사이버스트라이크AI의 경우 활성화된 서버만 1000대가 넘는다"고 전했다.

이처럼 AI 악용 공격이 에이전트 단위로 고도화될 경우, 현 보안 체계로 대응이 어려울 것이라는 의견도 제기된다. 박세준 티오리 대표는 이날 페이스북 게시글을 통해 "AI 기술에는 국경이 없고 수많은 공격 에이전트는 대상을 가리지 않는다"며 "금전적 동기든 국가 배후든 공격자 입장에서 뚫을 수 있으면 뚫지 않을 이유가 없고, 드는 비용보다 얻는 게 크면 하지 않을 이유가 없다"고 말했다.

다만 방어자 입장에서도 AI를 활용해 대응할 방법이 확대된 만큼 접근 방법을 달리해야 한다고 제언했다. 박 대표는 "놓친 틈새로 파도(공격)가 넘어오더라도 피해 범위가 거기서 멈추도록, 외부뿐 아니라 내부에서도 설계와 구조 차원의 보안을 고민하고 적용해야 한다"며 "뚫릴만한 지점을 공격자보다 빠르게 찾아내고 고치는 것은 무엇보다도 중요하다"고 말했다.

10월2일 서울 시내의 한 KB국민은행의 모습 [사진=연합뉴스]

해커가 악용 중인 AI 도구들의 서버가 활성화돼 있는 만큼 피해 범위가 더욱 커질 가능성도 점쳐진다. 이번 사안과 별개로 KB국민은행에서도 해킹으로 고객 정보가 유출되는 사고가 발생했다. 금융권에 따르면 KB국민은행에서 최근 고객정보 100여건이 외부 침입에 의해 유출되는 사고가 발생했다. AI 해킹 연계 가능성은 아직 밝혀지지 않았다.

일각에서는 '누구도 믿지 말고 경계하라'는 개념의 제로트러스트 보안이 필요하다는 의견이 제기된다. 보안 기업 프라이빗에이아이는 "이번 사고는 AI라는 공격 수단 자체보다는 제로트러스트 아키텍처의 부재로 인한 구조적인 한계가 발생한 사례로 볼 수 있다"며 "AI 에이전트는 공격 속도와 규모를 키운 수단에 가깝고, 본질은 크리덴셜 스터핑으로 확보한 단순 ID/PW 인증 하나만으로 주요 시스템 접근 권한이 모두 부여된 점에 있기 때문"이라고 평가했다.

그러면서 "제로트러스트 관점에서 접속 맥락을 지속 검증하는 체계가 갖춰져 있었다면 계정 정보가 일치하더라도 비인가된 외부 에이전트의 서버 접근 자체를 사전에 걸러낼 수 있었을 것"이라며 "최근 비인간신원(NHI) 보안이 주목받고 있는데, 내부 관리 목적뿐만 아니라 AI 에이전트가 주도하는 외부의 비정상적인 접근 시도를 식별하고 통제하는 것이 앞으로의 큰 과제가 될 것"이라고 전망했다.

국내 금융권이 이미 제로트러스트 보안에 첫발을 내디딘 만큼 관점의 변화가 필요하다는 의견도 제기됐다. 한 보안업계 관계자는 "각 회사가 보유한 AI 도구로 (취약점 등을) 점검하는 전략은 나쁘지 않지만, 이로써는 공격 속도를 따라잡는 데 한계가 있다"며 "해커 관점에서 이들이 어떤 도구를 악용하고 있는지 확인하는 방식으로 대응 체계를 변화할 때"라고 강조했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지

디지털데일리 네이버 메인추가

당신이 좋아할 만한 뉴스

DD 마이크로 사이트

오피니언