[디지털데일리 김보민기자] 인공지능(AI) 애플리케이션을 보호할 수 있는 전용 방화벽이 출시됐다.
클라우드플레어는 거대언어모델(LLM)을 겨냥한 공격을 식별하는 'AI용 방화벽(Firewall for AI)'을 선보인다고 5일 밝혔다. AI용 방화벽을 통해 고객이 LLM 내에 있는 기능, 데이터, 영업 비밀을 보호할 수 있도록 지원하겠다는 구상도 공개했다.
클라우드플레어가 인용한 조사에 따르면 최고경영진 4명 중 1명은 자신의 조직이 AI로 인한 위험에 대비하고 있다고 확신하는 것으로 나타났다. 다만 LLM을 보호하는 데 있어 사용자 상호작용을 제한하는 것은 불가능하다. 특히 LLM은 동일한 입력 값이 주어져도 다양한 결과물을 생성할 수 있어 적절한 보안 시스템을 구축하는 것이 어렵다.
매튜 프린스 클라우드플레어 최고경영자(CEO) 겸 공동 창업자는 "새로운 유형의 애플리케이션이 등장하면 새로운 유형의 위협도 뒤따르기 마련"이라며 "AI 모델을 위한 최초 보호막 중 하나를 제공해 기업이 기술을 활용하고 보호할 수 있도록 지원할 예정"이라고 말했다.
AI용 방화벽은 클라우드플레어 '워커스 AI'에서 실행되는 모든 LLM 앞에 배포가 가능하다. 사용자가 제출한 프롬프트를 평가해 모델을 악용하려는 시도를 식별할 수 있다. 이 밖에도 사람 개입 없이 위협을 자동으로 차단하고, 무료 보안을 제공할 수 있다. 클라우드플레어 워커스 AI에서 LLM을 실행하는 모든 고객은 AI용 방화벽을 통해 무료로 보호를 받을 수 있고, 프롬프트 주입 및 데이터 유출 등의 우려를 방지할 수 있다.
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
[취재수첩] 지상파 콘텐츠 가치, 제대로 산정해야 할때
2024-09-20 16:08:31“現 미디어 산업 특성 반영한 새로운 방발기금 제도 논의 필요”
2024-09-20 14:15:21SKT 에이닷·LGU+ 익시오, KT는 "검토 중" [IT클로즈업]
2024-09-20 13:43:01MBC스포츠+·CGV, 프로야구 실시간 이원생중계 나서
2024-09-20 10:04:32"아이폰16 출시, 개통 시작"…통신사별 '출시 행사' 특징은
2024-09-20 09:47:11쿠팡플레이, '사랑 후에 오는 것들' 2차 예고편 공개
2024-09-20 09:37:01표절 리스크도 기꺼이? 크래프톤, 배그 차기작 찾아 ‘직진’
2024-09-20 13:47:19SOOP이 청년 꿈 응원하는 방법은?…“다양한 콘텐츠와 지원 제도 활용”
2024-09-20 09:26:10