[AWS 서밋 서울] “생성형AI, 단일모델로는 안돼”…AI 백화점 ‘베드록’ 강조

실시간
뉴스

e비즈*솔루션

[AWS 서밋 서울] “생성형AI, 단일모델로는 안돼”…AI 백화점 ‘베드록’ 강조

디지털데일리 발행일 2024-05-16 16:00:36

권하영 기자

URL복사

프란체스카 바스케즈 AWS 프로페셔널서비스 및 생성형AI혁신센터 부사장이 16일 서울 코엑스 컨벤션센터에서 개최된 ‘AWS 서밋 서울 2024’에서 기조연설을 하고 있다. [Ⓒ 디지털데일리]

[디지털데일리 권하영기자] “고객의 선택은 중요합니다. 우리는 어떤 단일 인공지능(AI) 모델도 모든 것을 해결할 수 없다고 믿기 때문입니다. 고객은 다양한 사례에 따라 각기 다른 모델을 사용할 수 있는 유연성이 필요합니다.”

오픈AI가 ‘챗GPT’로 쏘아올린 생성형 AI 열풍 이후 다양한 거대언어모델(LLM)이 쏟아져 나오면서, 생성형 AI를 도입하고 활용하는 일은 갈수록 복잡해지고 있다.

이에 아마존웹서비스(AWS)는 여러 LLM을 통합 제공하는 완전관리형 AI 플랫폼인 ‘아마존 베드록’을 선보이고, 생성형 AI 수요가 있는 기업고객들을 유인하고 있다.

프란체스카 바스케즈 AWS 프로페셔널서비스 및 생성형AI혁신센터 부사장은 16일 서울 코엑스 컨벤션센터에서 개최된 ‘AWS 서밋 서울 2024’에서 기조연설을 통해 아마존 베드록이 생성형 AI 혁신을 위한 유연성을 제공할 수 있음을 강조했다.

‘아마존 베드록’은 다양한 AI 파운데이션모델(FM)을 편리하게 사용할 수 있는 완전관리형 AI 서비스로, 현재 아마존 자체 LLM인 ‘아마존 타이탄’ 외에도 앤스로픽 ‘클로드’, 코히어 ‘커맨드’, 메타 ‘라마2’, 미스트랄AI ‘미스트랄’, 스태빌리티AI ‘스테이블디퓨전’ 등을 모두 통합해 제공하는 것이 특징이다.

바스케즈 부사장은 “생성형 AI와 모델들은 아직 초기단계에 있고, 이 모델들은 전례 없는 속도로 계속 진화할 것”이라며 “그러므로 고객은 다양한 사용사례에 따라 각기 다른 모델을 사용할 수 있는 유연성이 필요하며, 이는 아마존 베드록이 모델 평가 도구를 제공함으로써 정보에 기반한 선택을 할 수 있도록 지원하는 이유”라고 말했다.

바스케즈 부사장에 따르면, 생성형 AI 관련 스택(계층)은 FM 훈련·추론을 위한 인프라, 생성형 AI 애플리케이션을 구축·확장하는 데 필요한 FM 및 LLM을 제공하는 플랫폼, 그리고 이를 통해 구축된 애플리케이션 등 3가지로 구성된다.

AWS는 자체 개발한 훈련용·추론용 AI 칩인 ‘AWS 트레이니엄’과 ‘AWS 인퍼런시아’ 그리고 AI 모델 개발·배포 서비스 ‘아마존 세이지메이커’ 등 인프라에 대한 투자야말로 상위 스택에서 제공하는 서비스의 역량을 높일 수 있다고 보고 있다.

바스케즈 부사장은 “지난 5년간 맞춤형 실리콘에 대한 투자를 통해 머신러닝(ML) 훈련 및 추론 비용을 크게 줄였으며, 실제 AWS는 훈련 비용을 최대 50%, 추론 비용을 최대 40%까지 줄일 수 있다”며 “생성형 AI를 구축할 때 고객은 어떤 모델을 사용해야 할지 질문하게 되는데, 실제 생성형 AI 스택의 중간층에 있는 AWS를 통해 생성형 AI 애플리케이션을 가장 쉽게 구축·확장할 수 있다”고 설명했다.

또한 바스케즈 부사장은 아마존 베드록에서 제공하는 미세조정(Fine-tuning)과 검색증강생성(RAG) 등 포괄적인 기능 세트와 보안 기능을 통해 기업의 자체 데이터를 이용하여 비즈니스 관련 애플리케이션을 안전하게 구축할 수 있다고 말했다.

AWS는 비용효율적인 고성능 인프라를 구축하기 위한 노력의 일환으로, 엔비디아와의 전략적 협력을 확대해 AWS 클라우드에서 엔비디아 최신 AI 칩 ‘H100’ 그래픽처리장치(GPU)를 제공하고, ‘프로젝트 세이바(Project Ceiba)’를 통해 AI 슈퍼컴퓨터를 구축하고 있다.

ﾠ

바스케즈 부사장은 “고성능 인프라에서 훈련과 추론을 실행해야만 생성적 AI 사용사례를 경제적으로 만들 수 있으며, 여기에는 엔비디아 최신 GPU ‘H100’ 등이 포함된다”며 “GPU 기반 인스턴스는 AWS 저장소 및 네트워킹 서비스의 성능 기반 위에 구축되며, 오픈소스 프레임워크 지원에 있어 다양한 오케스트레이션 옵션을 제공한다”고 소개했다.

다음으로는 고객의 비즈니스에 맞춤화된 업무용 생성형 AI 비서인 ‘아마존 Q’에 대해 설명했다. 아마존 Q는 다양한 비즈니스 요구사항을 충족하기 위해 여러 전문 분야를 갖추고 있지만, 이번 서밋에서는 ‘아마존 Q 디벨롭퍼’가 중점적으로 다뤄졌다.

바스케즈 부사장은 아마존 Q가 기획·디자인·코드구현·테스트·배포·운영에 이르는 개발의 모든 단계에서 생산성을 향상시킨다고 설명하고, 아마존 Q와 아마존 베드록을 통해 생성형 AI 애플리케이션을 개발하는 데모를 직접 시연했다.

특히 애플리케이션의 작동 방식을 파악하고 싶은 경우, 기존 애플리케이션에서 업데이트해야 할 부분을 알고 싶은 경우, 콘솔에서 예기치 못한 오류가 발생했을 경우, 기존 데이터를 바탕으로 RAG를 구현하고 싶은 경우 등 개발자들이 마주하는 다양한 상황에서 아마존 Q와 아마존 베드록을 어떻게 이용할 수 있는지 구체적으로 보여줬다.

이를 통해 AWS를 활용해 복잡한 생성형 AI 애플리케이션을 빠르고 효율적으로, 안전하게 구축할 수 있음을 강조했다.

ﾠ

끝으로, 바스케즈 부사장은 2025년까지 전 세계 2900만명에게 무료 교육을 제공하겠다는 AWS의 약속을 재확인하면서, ‘AWS 스킬 빌더(AWS Skill Builder)’와 ‘AWS 에듀케이트(AWS Educate)’ 등 AI/ML과 생성형 AI 관련 교육 프로그램 및 AWS 개발자 커뮤니티에 관해서도 소개했다.

ﾠ

한편, 이날부터 이틀간 개최되는 ‘AWS 서밋 서울 2024’는 올해 10주년을 맞이해 2만여명 참석이 예상되고 있다. AWS는 생성형 AI를 중심으로 다양한 산업분야와 기술주제에 대해 100개 이상 강연 준비했으며, 70곳 이상 고객들이 직접 AWS 도입 경험과 성공사례를 공유할 예정이다. 또한 60개 이상 다양한 스폰서와 파트너가 클라우드를 통한 혁신 노하우를 같이 공유하는 세션과 부스를 마련했다.