[AI WAVE 2024] 다올티에스-메이머스트, "생성 AI 인프라, `델 Gen AI`로 한번에 구축…레퍼런스 설계 제공"

실시간
뉴스

e비즈*솔루션

[AI WAVE 2024] 다올티에스-메이머스트, "생성 AI 인프라, '델 Gen AI'로 한번에 구축…레퍼런스 설계 제공"

디지털데일리 발행일 2024-05-09 17:00:00

고성현 기자

URL복사

5월9일 서울 중구 롯데호텔 서울에서 <디지털데일리>가 산업별 AI 혁신과 도전과제를 주제로 개최한 ‘AI 웨이브 2024’ 콘퍼런스. ‘생성형 AI를 위한 풀스택 밸리데이티드 디자인’을 발표하는 메이머스트 유채호 이사.

[디지털데일리 고성현 기자] 생성형 인공지능(AI) 열풍이 불면서 자체적인 AI 모델을 구축하거나, 훈련된 모델을 기반한 서비스 사업을 추진하는 기업도 늘어나고 있다. 이에 따라 서버 하드웨어(HW) 인프라부터 소프트웨어(SW) 툴, 레퍼런스 디자인 등을 일괄적으로 제공하는 솔루션에 대한 수요도 커지는 추세다.

메이머스트는 델 테크놀로지스(Dell Technologies), 엔비디아(Nvidia)와의 파트너십을 기반으로 한 '풀스택 밸리데이티드 디자인(Full Stack Validated Design)' 솔루션을 제공하고 있다. 또 이를 활용한 데모센터를 통해 개념검증(PoC) 등을 비롯한 기술 지원 서비스도 구축했다.

유채호 메이머스트 이사는 9일 <디지털데일리>가 개최한 'AI 웨이브 2024' 콘퍼런스에서 '생성형 AI를 위한 풀 스택 밸리데이티드 디자인'을 주제로 발표를 진행했다.

생성형 AI는 이미지, 텍스트, 오디오 등 기존 콘텐츠를 활용해 유사한 콘텐츠를 생성할 수 있는 AI 시스템이다. 2017년 트랜스포머(transformer) 모델에 대한 거대언어모델(LLM) 논문이 발표된 이후, AI 기업들이 이를 기반한 생성형 AI 모델 개발에 나서며 발전해왔다.

그러던 지난해 오픈AI가 챗봇 서비스 'GPT3'를 출시하면서 관련 생태계가 크게 확대됐다. 글로벌 시장조사업체 프레지던스 리서치(Precedence Research)도 전세계 생성형 AI 시장이 2023년 137억달러 규모에서 2032년 1180억달러까지 성장할 수 있다는 분석을 내놓은 바 있다.

유채호 이사는 "생성형 AI의 워크로드 유형은 학습(Training), AI 모델을 최적화하는 모델 커스터마이제이션(Customization), 이를 기반한 앱에 질의를 던졌을 때 이에 가장 유사한 답을 내주는 작업인 추론(Inference)으로 구성돼 있다"고 설명했다.

유 이사는 "이같은 생성형 AI를 구동·개발하기 위해서는 서버·스토리지·이더넷스위치·GPU카드 등 하드웨어 레이어 구성은 물론, 리눅스 OS에서 작동하는 BSM(Base Command Manager) 에센셜·클러스터 매니저(쿠버네티스) 등 소프트웨어 환경 구성과 AI 연동하는 플랫폼, 프레임워크 등이 요구된다"고 덧붙였다.

메이머스트가 제공하는 '델 젠 AI(Dell Gen AI)'는 델 테크놀로지스, 엔비디아가 보유한 기술을 종단간(End-to-End)으로 구성한 HW·SW 풀스택 솔루션이다. 이를 활용하면 생성형 AI 인프라를 한번에 구축할 수 있고, 사이징(Sizing)·스케일링 등 정보를 제공 받거나 맞춤형 생성형 AI 모델을 활용할 수 있다.

검증된 레퍼런스 아키텍처를 제공하는 점도 강점이다. 이미 밑바탕이 그려진 아키텍처를 활용해 개발 시간을 줄이고, 콘텐츠 등을 고도화하는 등 가치 창출 비용을 절감할 수 있다는 의미다.

유 이사는 "델 젠 AI는 학습·모델 최적화·추론 등 용도별 솔루션이 나눠져 있고, 엔비디아 니모(NeMo) 프레임워크 등 커스텀 LLM 개발을 위한 툴도 준비돼 있다"며 "엔비디아 AI 엔터프라이즈를 통해 다양한 레퍼런스 애플리케이션도 준비해 챗봇·오디오 트랜스픽션·디지털 지문 위협 탐지·이메일 스피어 피싱 탐지 등 원하는 방향의 추론 서비스 경험히 가능할 것"이라고 강조했다.

메이머스트는 다올TS, 델 테크놀로지스, 엔비디아와 합작해 구성한 AI 데모센터도 운영하고 있다. 데모센터에서는 생성형 AI 사용 사레(Use case) 경험 및 PoC 등 고객사 지원·교육을 진행하고 있다.

유채호 이사는 "메이머스트는 데모센터를 통해 LLM 커스터마이제이션, 파운데이션 모델에 대한 최적화 및 추론 작업 등을 진행해 고객사들의 생성형 AI 경험을 제공할 것"이라며 "고객사의 생성형 AI 전략 수립을 돕는 동반자가 되겠다"는 포부를 드러냈다.