"AI 애플리케이션 무료 보호" 클라우드플레어, `AI용 방화벽` 출시

실시간
뉴스

보안

"AI 애플리케이션 무료 보호" 클라우드플레어, 'AI용 방화벽' 출시

디지털데일리 발행일 2024-03-05 09:39:03

김보민 기자

URL복사

[디지털데일리 김보민기자] 인공지능(AI) 애플리케이션을 보호할 수 있는 전용 방화벽이 출시됐다.

클라우드플레어는 거대언어모델(LLM)을 겨냥한 공격을 식별하는 'AI용 방화벽(Firewall for AI)'을 선보인다고 5일 밝혔다. AI용 방화벽을 통해 고객이 LLM 내에 있는 기능, 데이터, 영업 비밀을 보호할 수 있도록 지원하겠다는 구상도 공개했다.

클라우드플레어가 인용한 조사에 따르면 최고경영진 4명 중 1명은 자신의 조직이 AI로 인한 위험에 대비하고 있다고 확신하는 것으로 나타났다. 다만 LLM을 보호하는 데 있어 사용자 상호작용을 제한하는 것은 불가능하다. 특히 LLM은 동일한 입력 값이 주어져도 다양한 결과물을 생성할 수 있어 적절한 보안 시스템을 구축하는 것이 어렵다.

매튜 프린스 클라우드플레어 최고경영자(CEO) 겸 공동 창업자는 "새로운 유형의 애플리케이션이 등장하면 새로운 유형의 위협도 뒤따르기 마련"이라며 "AI 모델을 위한 최초 보호막 중 하나를 제공해 기업이 기술을 활용하고 보호할 수 있도록 지원할 예정"이라고 말했다.

AI용 방화벽은 클라우드플레어 '워커스 AI'에서 실행되는 모든 LLM 앞에 배포가 가능하다. 사용자가 제출한 프롬프트를 평가해 모델을 악용하려는 시도를 식별할 수 있다. 이 밖에도 사람 개입 없이 위협을 자동으로 차단하고, 무료 보안을 제공할 수 있다. 클라우드플레어 워커스 AI에서 LLM을 실행하는 모든 고객은 AI용 방화벽을 통해 무료로 보호를 받을 수 있고, 프롬프트 주입 및 데이터 유출 등의 우려를 방지할 수 있다.