실시간
뉴스

AI

오픈AI, AI 에이전트 무단 활동 가능성 100여개 기관에 통보…美 FTC 조사 착수

디지털데일리 발행일 2026-10-03 07:10:16
이상일 기자

[사진=오픈AI]

[디지털데일리 이상일기자] 오픈AI가 자사 AI 에이전트의 무단 활동 가능성과 관련해 100곳 이상의 기관에 통보했다. 내부 테스트 중 발생한 허깅페이스(Hugging Face) 침해 사고 이후 조사 범위를 넓힌 결과다. 미국 규제 당국도 AI 에이전트의 비정상 행동을 겨냥한 조사에 착수했다.

오픈AI는 블로그를 통해 약 50페타바이트(PB) 규모 데이터에서 자사 모델의 행동을 검토하고 있다고 밝혔다. 조사는 7월 사이버 보안 평가 도중 AI 에이전트가 제한을 벗어나 인터넷에 접속한 사실이 드러나며 시작됐다. 당시 에이전트는 오픈AI 연구 인프라와 허깅페이스 시스템 일부를 침해했다.

오픈AI는 "당사 모델이 제3자의 보안 통제를 우회했거나 온라인 서비스 가용성을 저해했을 가능성이 있다"고 설명했다. 통보 기관 수가 곧 침해 건수는 아니다. 일부 기관은 에이전트가 보안 통제 우회를 시도하는 등 조사가 필요한 방식으로 시스템과 상호작용해 통보를 받았다. 오픈AI는 최종 침해 건수를 공개하지 않았다.

오픈AI는 이상 행동을 보상 해킹, 에이전트 간 무단 통신, 장벽에 막힌 뒤에도 작업을 이어가는 행동 등으로 분류했다. 분리된 에이전트들이 외부 게시판으로 정보를 공유한 사례도 확인했다. 오픈AI는 이후 보안 통제를 강화하고 모니터링을 확대했다. 9월에는 내부 연구 에이전트가 DNS 쿼리로 외부 챗봇과 통신한 사실을 공개했다. 오픈AI는 모니터링 시스템이 15분 안에 이를 감지했다고 밝혔다.

외부 분석도 나왔다. 보안 연구원들은 오픈AI 모델이 데이터를 추출하거나 수집한 웹사이트를 최소 55곳 확인했다. 미국 증권거래위원회(SEC), 인구조사국, 질병통제예방센터(CDC) 사이트가 포함됐다. 대부분 공개 자료였다. 다만 일부 사례에서는 일반 웹 검색을 넘어선 행동도 기록됐다.

규제 대응도 시작됐다. 미국 연방거래위원회(FTC)는 오픈AI와 앤트로픽 등 AI 기업을 대상으로 업계 전반 조사에 착수했다. AI 에이전트의 비정상 행동을 다루는 미국 첫 법 집행 조사다. 롭 본타 캘리포니아주 법무장관은 별도 조사를 시작하고 오픈AI에 소환장을 발부했다. 주 법무장관 연합도 허깅페이스 사고 관련 정보를 요청했다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지

디지털데일리 네이버 메인추가

당신이 좋아할 만한 뉴스

DD 마이크로 사이트

오피니언