한 번 클릭으로 AI모델 배포…클라우드플레어-허깅페이스, “AI앱 글로벌 확장 돕는다”

실시간
뉴스

한 번 클릭으로 AI모델 배포…클라우드플레어-허깅페이스, “AI앱 글로벌 확장 돕는다”

디지털데일리 발행일 2024-04-04 13:49:56

최민지 기자

URL복사

[디지털데일리 최민지기자] 클라우드플레어(Cloudflare)는 허깅페이스에서 클릭 한 번으로 클라우드플레어 글로벌 네트워크에 인공지능(AI) 애플리케이션을 배포할 수 있도록 지원한다고 4일 밝혔다.

클라우드플레어는 일반 사용자도 ‘워커스 AI(Workers AI)’를 이용할 수 있도록 했다. 이를 통해 클라우드플레어는 사용자들이 차세대 AI 애플리케이션을 위해 손쉽게 AI 모델을 확장‧배포하는 데 필요한 인프라를 제공한다.

개발자는 허깅페이스에서 한 번의 클릭으로 직접 AI 모델을 배포할 수 있다. 인기 있는 오픈소스 모델 중 하나를 선택한 다음 ‘클라우드플레어 워커스AI로 배포’를 클릭하기만 하면 된다. 총 14개 허깅페이스 모델이 클라우드플레어 전역 서버리스 추론 플랫폼을 위해 최적화됐으며, 텍스트 생성, 임베딩, 문장 유사도 등 각각의 다른 작업 카테고리를 지원한다.

특히, 개발자는 인프라를 관리하거나 사용하지 않는 컴퓨터 용량에 대한 비용을 지불할 필요 없이 경제적으로 AI를 배포할 수 있다는 설명이다.

클라우드플레어 AI 게이트웨이는 AI 애플리케이션을 위한 제어판을 제공한다. 개발자가 요청을 동적으로 평가하고 다양한 모델과 공급자에게 라우팅할 수 있도록 한다. 또, 개발자가 데이터를 사용해 미세 조정하고 워커스 AI 플랫폼에서 이러한 결과물을 바로 실행할 수 있게 돕는다.

또한 클라우드플레어는 ▲서울 ▲케이프타운 ▲멕시코시티 ▲뭄바이 등 전세계 150여개 도시에, 그래픽처리장치(GPU)를 보유하고 지연을 최소화한 추론을 지원한다.

매튜 프린스 클라우드플레어 최고경영자(CEO) 겸 공동 창업자는 “다수의 기업들이 AI에 막대한 시간과 비용을 투자하고 있다. 그 중 일부는 효과가 있겠지만, 데모는 쉬워도 이를 프로덕션에 적용하는 것은 매우 어렵다는 것이 현재 우리가 직면한 도전과제”라며 “클라우드플레어는 AI 기반 앱을 구축하는 데 드는 비용과 복잡성을 없앰으로써 이러한 문제를 해결하고자 한다”고 말했다.

이어 “워커스 AI는 추론을 실행할 수 있는 가장 접근하기 쉬운 솔루션”이라며 “간단하고 경제적인 방식으로 AI를 대중화하려는 클라우드플레어와 허깅페이스 노력을 바탕으로, 개발자가 직접 모델을 선택하고 AI 앱을 글로벌로 즉시 확장할 수 있는 자유와 민첩성을 제공한다"고 덧붙였다.

줄리앙 쇼몽 허깅페이스 공동창업자 및 최고기술책임자(CTO)는 “가장 인기 있는 개방형 모델을 서버리스 애플리케이션 프로그래밍 인터페이스(API)로 제공하고, 전 세계 배포된 GPU로 구동하는 것은 허깅페이스 커뮤니티에도 획기적인 제안”이라며 “이를 통해 앞으로 무엇을 만들어 나갈지 기대된다”고 전했다.