[레드햇 서밋 2024] 또 업그레이드 된 레드햇 오픈시프트 AI, 예측형·생성형 AI ‘하이브리드 지원’

실시간
뉴스

e비즈*솔루션

[레드햇 서밋 2024] 또 업그레이드 된 레드햇 오픈시프트 AI, 예측형·생성형 AI ‘하이브리드 지원’

디지털데일리 발행일 2024-05-08 12:00:00

덴버(미국)=권하영 기자

URL복사

아셰시 바다니 레드햇 최고제품책임자(CPO) 겸 수석부사장이 7일(현지시간) 미국 덴버 콜로라도컨벤션센터에서 열린 ‘레드햇 서밋 2024’에서 발표하고 있다. [Ⓒ 디지털데일리]

[디지털데일리 권하영기자] 레드햇 오픈시프트 기반의 개방형 하이브리드 인공지능(AI) 및 머신러닝(ML) 플랫폼 ‘레드햇 오픈시프트 AI’가 한단계 도약한다.

하이브리드 클라우드 전반에 예측형 AI와 생성형 AI를 함께 지원함으로써, 온프레미스 데이터센터부터 퍼블릭 클라우드와 엣지를 아우르는 레드햇 오픈시프트 AI의 선택의 폭을 넓혔다.

레드햇은 7일(현지시간) 미국 덴버 콜로라도컨벤션센터에서 ‘레드햇 서밋 2024’를 개최, ‘레드햇 오픈시프트 AI’의 업데이트 내용을 1년 만에 발표했다.

레드햇 오픈시프트 AI는 레드햇의 엔터프라이즈 쿠버네티스 플랫폼인 ‘레드햇 오픈시프트’를 기반으로 만든 AI/ML 모델을 학습·조정·제공·모니터링·관리하는 서비스로, 지난해 서밋을 통해 처음 출시됐다.

이번 업데이트는 클라우드 환경 사용 여부에 관계 없이 예측형 및 생성형 AI 모델을 모두 지원하는 것이 핵심이다. 기본 하드웨어부터 주피터(Jupyter)나 파이토치(PyTorch)와 같이 플랫폼 구축에 사용되는 서비스 및 도구에 이르기까지, 오픈소스 플랫폼을 기반으로 지능형 워크로드에 대한 고객의 선택권을 보장한다.

실제 기업은 AI 모델을 실험 단계에서 실제 제품 단계로 전환하는 과정에서 하드웨어 비용 증가, 데이터 프라이버시 문제, 서비스형소프트웨어(SaaS) 기반 모델에 대한 신뢰 부족 등 어려움에 직면한다. 하지만 생성형 AI가 빠르게 변화하고 있고, 많은 조직이 온프레미스든 클라우드든 안정적인 핵심 AI 플랫폼 구축을 고민하고 있다.

이에 레드햇은 하이브리드 클라우드 전반에서 유연성을 지원하고, 고객 데이터로 사전 학습되거나 선별된 파운데이션모델을 강화할 수 있는 기능과 다양한 하드웨어·소프트웨어 가속기를 자유롭게 사용할 수 있는 기능을 제공한다. 새롭게 업데이트된 레드햇 오픈시프트 AI는 최신 AI/ML 혁신에 대한 액세스와 AI 중심의 광범위한 파트너 에코시스템 지원을 통해 이러한 요구를 충족하게 된다.

구체적으로, 최신 버전인 레드햇 오픈시프트 AI 2.9는 ▲엣지에서의 모델 서빙으로 단일 노드 오픈시프트를 통해 AI 모델 배포를 원격으로 확장하고 ▲여러 모델 서버를 사용해 예측형 및 생성형 AI를 모두 지원함으로써, 비용을 절감하고 운영을 간소화할 수 있다. ▲또한 더 빠르고 효율적인 데이터 처리와 모델 학습을 위해, 여러 클러스터 노드를 사용하는 코드플레어(CodeFlare)와 큐브레이(KubeRay)를 통해 AI 워크로드 가속화를 위한 프레임워크인 ‘레이(Ray)’로 워크로드를 분산한다.

이와 함께 ▲프로젝트 작업 공간과 추가 워크벤치 이미지를 통해 모델 개발을 개선하고 ▲성능 및 운영 메트릭에 대한 모델 모니터링을 시각화하며 ▲관리자가 모델 개발 및 모델 제공 워크플로우에 사용 가능한 다양한 유형의 하드웨어 가속기를 구성할 수 있도록 새로운 가속기 프로필이 추가됐다.

6일부터 9일(현지시간)까지 미국 덴버 콜로라도컨벤션센터에서 열리는 ‘레드햇 서밋 2024’ 전시장 모습 [Ⓒ 디지털데일리]

아셰시 바다니 레드햇 최고제품책임자(CPO) 겸 수석부사장은 “레드햇 오픈시프트 AI는 엔터프라이즈 AI를 향한 대규모 수요에 대한 해답”이라며 “레드햇 오픈시프트 AI를 통해 하이브리드 클라우드 전반에 지능형 애플리케이션을 배포하는 동시에, 운영 및 모델을 미세조정해 제품 애플리케이션과 서비스를 지원할 수 있다”고 강조했다.

레드햇에 따르면 현재 IBM의 왓슨x.ai(watsonx.ai) 뿐만 아니라 AGESIC과 오텍파이낸스(Ortec Finance) 등 다양한 산업 분야 기업들이 레드햇 오픈시프트 AI를 도입하고 있다. 또한 다양한 파트너들과 협업을 통해 에코시스템을 확장하고 있다.

대표적으로 레드햇은 이날 인텔과의 최신 협업을 발표했다. 양사는 인텔의 AI 제품들인 AI 가속기 ‘가우디(Gaudi)’, 제온(Xeon) 프로세서, 코어 울트라 및 코어 프로세서, 아크(Arc) GPU(그래픽처리장치) 등에서 레드햇 오픈시프트 AI를 지원한다.

AMD와의 협력도 본격화한다. 레드햇과 AMD는 AMD GPU를 레드햇 오픈시프트 AI에 통합함으로써 AI 아키텍처에 더 큰 선택권과 유연성을 제공할 예정이다. 레드햇 오픈시프트 AI에서 ‘AMD GPU 오퍼레이터’를 지원하는 한편, ‘AMD 인스팅트(AMD Instinct)’ 가속기에서 레드햇 오픈 하이브리드 클라우드 기술을 지원한다.