더 강력해진 아마존 베드록…AWS, 생성형AI 시대 ‘멀티LLM’ 공략 가속

실시간
뉴스

e비즈*솔루션

더 강력해진 아마존 베드록…AWS, 생성형AI 시대 ‘멀티LLM’ 공략 가속

디지털데일리 발행일 2024-08-13 15:05:07

권하영 기자

URL복사

김선수 AWS코리아 AI/ML사업개발 수석 스페셜리스트가 13일 서울 강남구 AWS코리아 오피스에서 ‘AWS 2024 생성형AI 미디어 브리핑’에서 발표하고 있다. [Ⓒ 디지털데일리]

[디지털데일리 권하영기자] 마이크로소프트(MS)와 오픈AI가 선점했던 생성형 인공지능(AI) 시장에 아마존웹서비스(AWS)가 ‘멀티 거대언어모델(LLM) 전략’으로 승부수를 던졌다. AWS는 최근 멀티 LLM 수요에 최적화된 ‘아마존 베드록’을 한층 강화해 시장 공략에 박차를 가하는 모습이다.

AWS는 13일 서울 강남구 AWS코리아 오피스에서 ‘AWS 2024 생성형AI 미디어 브리핑’을 진행했다. 이날 행사는 지난 7월 미국 뉴욕에서 열린 ‘AWS 서밋 뉴욕 2024’에서 발표된 아마존 베드록의 신규 기능을 소개하면서 국내 활용 사례를 공유하는 자리로 마련됐다.

아마존 베드록은 다양한 고성능 파운데이션모델(FM)을 단일 응용프로그램인터페이스(API)로 제공하면서 AI 애플리케이션 구축을 지원하는 서비스로, 아마존 자체 LLM ‘타이탄’을 비롯해 앤스로픽 ‘클로드’, 코히어 ‘커맨드-R’, 메타 ‘라마2’ 등 여러 LLM을 폭넓게 제공하고 있다.

가장 먼저 생성형AI 열풍을 일으킨 오픈AI가 MS와의 독점적 파트너십을 바탕으로 폐쇄형 AI 생태계를 형성했다면, AWS는 오픈AI를 제외한 다양한 생성형AI 제공업체들과 손잡고 그들의 LLM을 모두 제공하는 개방형 AI 생태계를 강조하고 있다. 이로써 고객의 선택권을 넓히면서 2개 이상 LLM을 쓰려는 멀티 LLM 수요를 공략하는 전략이다.

실제로 30개 이상 주요 기업을 인터뷰한 CB인사이츠 조사에 따르면, 많은 기업들이 서로 다른 AI 활용을 위해 복수 LLM을 선택하고 있다. 사용된 LLM 제공업체 수를 기준으로, 2개를 사용하는 기업은 34%, 3개를 쓰고 있는 기업은 41%에 달했으며, 4개 이상을 활용하는 기업도 22%에 이르렀다. 반면 1개만 쓰는 기업은 3%에 그쳤다.

김선수 AWS코리아 AI/ML사업개발 수석 스페셜리스트는 “최근 대부분의 기업들이 여러 AI 모델을 동시에 사용하고 있다”며 “아마존 베드록은 단일 API 형태로 여러 모델을 같이 쓸 수 있도록 해주는 가장 쉬운 방법”이라고 자신했다.

AWS는 최근 ▲생성형AI 모델 최적화 ▲데이터 연결 성능 강화 ▲책임감 있는 AI 기능 강화 ▲실행능력 강화 등에 초점을 두고 아마존 베드록을 대폭 업데이트했다.

먼저, 생성형AI 모델 최적화를 위해 앤스로픽의 LLM ‘클로드3’의 파인튜닝(미세조정) 버전이 프리뷰로 공개됐다. 이로써 개발자는 자체 데이터를 통한 파인튜닝 작업 설정이 가능해졌으며, 자체 암호화 키로 파인튜닝 작업의 개인정보를 제어하고 선택적 하이퍼파라미터를 통한 사용자 지정 파인튜닝도 할 수 있게 됐다.

아마존 베드록용 지식 기반을 위한 확장된 데이터 커넥터 기능도 제공된다. 아마존S3 외에 웹도메인, 컨플루언스, 세일즈포스, 쉐어포인트를 데이터 소스로 RAG 애플리케이션에 연결하는 기능을 프리뷰로 지원한다. 이를 통해 기업은 특정 요구사항에 맞는 모델 최적화를 위해 더 많은 비즈니스 데이터 활용이 가능하다.

김 스페셜리스트는 “베드록은 회사가 원하는 형태의 답을 이끌어내기 위해 다양한 데이터를 연계하는 RAG 기능에 최적화됐다”며 “가드레일을 통해 유해한 콘텐츠를 85%까지 줄일 수 있었고 환각 현상도 75%까지 필터링할 수 있었다”고 밝혔다.

아마존 베드록용 가드레일(Guardrails for Amazon Bedrock)의 기능도 추가됐다. 하나는 ‘컨텍스트 크라운딩 검사(Contextual Grounding Checks)’로 할루시네이션(거짓정보생성)을 감지하고 차단하는 가드레일이다. 기업 데이터나 사용자 쿼리와 관련 없는 응답에서 환각현상을 탐지한다. 다른 하나는 고객이 모든 파운데이션모델에서 가드레일을 사용할 수 있는 독립 API다. ‘가드레일 API’ 기능은 기본 인프라에 상관 없이 구축된 모든 생성형AI 애플리케이션에 표준화된 보호 조치를 적용할 수 있다.

마지막으로 아마존 베드록용 에이전트(Agents for Amazon Bedrock)의 메모리 보존 및 코드 해석 지원 기능이 제공된다. 이제 아마존 베드록용 에이전트는 메모리 보존 기능으로 사용자의 여러 상호작용을 기억하며 학습할 수 있으므로 사용자가 중단한 지점부터 대화를 이어가게 된다. 각 사용자의 대화 기록은 고유 메모리 식별자(ID)에 안전하게 저장된다는 설명이다. 또한 코드 해석 기능 지원을 통해 데이터 분석, 시각화, 텍스트 처리 등 다양한 복잡한 작업을 수행할 수 있다.

이날 아마존 베드록을 통해 자사 영업전산시스템 ‘유큐브(Ucube)’에 생성형AI를 도입한 사례를 발표한 강병래 LG유플러스 PM은 “솔직히 말하면 가장 알려진 챗GPT를 왜 쓰지 않았냐는 질문을 많이 받는데, 막상 베드록을 사용해보면 장점이 분명하다”며 “AI 모델들은 기능 및 성능과 속도가 다 달라 원래 각각 연동을 해야 하는데, 베드록은 여러 모델을 동시에 테스트하면서 골라 쓸 수 있다는 게 장점”이라고 전했다.

윤석찬 AWS코리아 수석 테크에반젤리스트가 13일 서울 강남구 AWS코리아 오피스에서 ‘AWS 2024 생성형AI 미디어 브리핑’에서 발표하고 있다. [Ⓒ 디지털데일리]

AWS는 이날 개발자를 위한 생성형AI 서비스 ‘아마존Q 디벨로퍼’의 업데이트 내용과 애플리케이션 구축을 지원하는 ‘아마존 앱 스튜디오’의 프리뷰 버전도 공개했다.

먼저, 확장된 아마존Q 디벨로퍼 기능을 정식 출시했다. 그중 하나인 ‘아마존Q 디벨로퍼 커스터마이제이션’은 내부 코드 및 모범 사례를 기반으로 개발자 요구에 맞는 맞춤형 코드 제안을 제공한다. ‘아마존Q 디벨로퍼 코드 변환’은 자동으로 레거시 애플리케이션 코드를 변환하는 기능을 제공한다.

ﾠ

이번에 프리뷰 버전으로 출시된 AWS 앱 스튜디오는 자연어를 토대로 엔터프라이즈급 애플리케이션 생성을 지원하는 생성형AI 기반 서비스다. 사용자가 애플리케이션의 기능과 통합하고 싶은 데이터 소스를 간단하게 입력하면, 앱 스튜디오가 단 몇 분만에 애플리케이션을 생성한다.

윤석찬 AWS코리아 수석 테크에반젤리스트는 “영국 BT 그룹은 아마존Q 디벨롭퍼 도입 후 4개월간 10만줄의 코드를 생성했고, 반복 작업을 12% 감소시켰다”며 “아마존 내부에서도 수만개의 레거시 애플리케이션 코드를 최신 버전으로 변환하면서 2억6000만달러(약 3500억원)를 절감하는 효과가 있었다”고 언급했다.