[AWS 서밋 서울] “베드락 출시 반응 ‘압도적’…AI 모델 선택·통합 손쉽게”

실시간
뉴스

e비즈*솔루션

[AWS 서밋 서울] “베드락 출시 반응 ‘압도적’…AI 모델 선택·통합 손쉽게”

디지털데일리 발행일 2024-05-16 18:05:26

권하영 기자

URL복사

양승도 아마존웹서비스(AWS) 솔루션즈아키텍트 리더가 16일 서울 코엑스 컨벤션센터에서 열린 ‘AWS 서밋 서울 2024’에서 세션 발표를 진행하고 있다. [Ⓒ 디지털데일리]

[디지털데일리 권하영기자] “대부분의 조직이 가장 강력한 인공지능(AI) 모델을 사용해서 이를 비즈니스에 접목하길 원한다. 그렇다면 과연 어떤 모델을 선택해야 할까? 어떻게 해야 생성형 AI 애플리케이션의 구축·배포를 빠르게 수행할 수 있을까?”

양승도 아마존웹서비스(AWS) 솔루션즈아키텍트 리더는 16일 서울 코엑스 컨벤션센터에서 열린 ‘AWS 서밋 서울 2024’에서 세션 발표를 통해 이 같은 질문을 던지고 그 해답으로 ‘아마존 베드록’을 제안했다.

생성형 AI의 폭발적 성장 이후, 이를 활용하고자 하는 기업과 조직의 최대 고민은 어떤 AI 모델을 어떻게 활용할 것인가에 있다. 다양한 거대언어모델(LLM) 또는 파운데이션모델(FM)이 홍수처럼 쏟아지고 있지만, 각 애플리케이션마다 가장 최적화된 모델들을 선별 또는 통합하는 일은 결코 쉽지 않은 작업이기 때문이다.

양 리더는 “고객들은 지금 현재 가장 뛰어난 FM을 선택하길 원하지만, 당장 내일 또 어떤 FM이 흥미를 끌지는 아무도 모르는 일”이라며 “하나의 모델만으로는 모든 사례에 적용할 수 없고 반대로 모든 모델을 각 기업에서 다 사용하는 것도 굉장히 힘들기 때문에, 단일 모델에 의존하는 CSP를 선택하는 것은 올바르지 않다”고 말했다.

현재 AWS는 직접 AI 모델을 만들고 싶은 고객 또는 이미 개발된 모델을 활용해 생성형 AI 애플리케이션을 구축·배포하고 싶은 고객마다 맞춤 제품을 출시한 상태다.

만약 직접 AI 모델을 만들고 싶은 고객이라면, AWS가 그 모델을 훈련하고 실행하는 데 필요한 인프라를 제공해준다. 이는 AWS가 클라우드서비스제공사(CSP)로는 최초로 엔비디아 그래픽처리장치(GPU)를 클라우드에 도입한 동시에 각각 훈련용·추론용으로 자체 개발한 AI 반도체 ‘AWS 트레이니엄’과 ‘AWS 인퍼런시아’를 선보인 이유다.

혹은 시중 LLM 또는 FM을 직접 사용해 애플리케이션을 빠르게 구축하고 싶은 고객이라면, ‘아마존 베드락’을 활용할 수 있다. ‘아마존 베드록’은 다양한 AI 모델을 편리하게 사용할 수 있는 AWS의 완전관리형 AI 서비스로, 현재 아마존 자체 LLM인 ‘아마존 타이탄’ 외에도 앤스로픽 ‘클로드’, 코히어 ‘커맨드’, 메타 ‘라마2’, 미스트랄AI ‘미스트랄’, 스태빌리티AI ‘스테이블디퓨전’ 등을 모두 통합해 제공하고 있다.

양 리더는 “작년 9월 정식 출시 이후, 베드록에 대한 고객들 반응은 그야말로 압도적이었다”며 “지금까지 피드백에서 베드록의 가장 중요한 기능은 다양한 FM을 실험하고, 선택하고, 애플리케이션에 통합하는 것이 너무나 쉽다는 것이었다”고 강조했다.

그는 베드록이 가진 특장점을 3가지로 요약했다. 그는 “고객들은 베드록에서 가장 다양한 모델을 선택할 수 있으며, 그중 대부분의 모델은 베드락에서 최초로 제공되거나 또는 몇몇 모델은 베드락에서만 직접 사용할 수 있게 제공된다”며 “또한 베드록은 사용자 최적화 옵션을 통해 비즈니스 컨텍스트를 빠르고 쉽게 추가할 수 있으며, 처음부터 보안을 염두에 두고 설계하고 개발했기 때문에 엔터프라이즈급 보안과 프라이버시의 이점까지 제공한다”고 역설했다.

아울러 양 리더는 고객이 자체 데이터로 생성한 AI 애플리케이션을 사용자에 맞게 최적화하는 데 필요한 기능으로서 베드록이 제공하고 있는 세 가지 기능을 소개했다.

양 리더는 “먼저, 미세조정(Fine-tuning) 과정에서 고객 데이터가 원래 모델의 훈련에 사용되는 게 아니라 오리지널 모델의 카피본을 가지고 비공개 모델을 새로 만드는 데 사용된다는 점이 중요하다”며 “이를 통해 고객 데이터가 외부로 흘러나가는 것을 원칙적으로 방지할 수 있다”고 언급했다. 현재 베드록에선 아마존 타이탄과 코히어 커맨드 라이트, 메타 라마에서 이런 미세조정 기능을 사용할 수 있으며, 조만간 앤스로픽의 클로드에 대한 미세조정 기능도 지원될 방침이다.

또한 “베드록은 검색증강생성(RAG)을 사용해 모델이 새로운 지식이나 최신 정보를 고려할 수 있도록 모델의 응답을 최적화할 수 있다”며 “미리 지정해놓은 문서 데이터베이스나 응용프로그램인터페이스(API)를 비롯한 여러 소스에서 고객은 자체 데이터를 직접 호출해 가져오고 각 비즈니스에 맞는 답변들을 생성형 AI 애플리케이션을 통해 얻을 수 있는 것”이라고 설명했다.

마지막으로 “지속적인 사전학습 기법을 통해 생성형 AI를 고객 비즈니스에 맞게 타기팅하고 유용하게 만들 수 있다”고 덧붙였다.

양 리더는 “생성형 AI의 진정한 힘은 검색엔진이나 챗봇을 넘어서 장기적으로 기업과 조직의 운영방식 또는 문화 등 거의 모든 측면을 변화시킬 것이라고 생각한다”며 “생성형 AI를 활용해 고객과 직원들 사이에 지금까지 경험하지 못한 새로운 경험을 선사할 수 있을 것”이라 내다봤다.