오라클 클라우드 쓰는 AI 혁신기업 어디?…“시간·비용 효율화”

실시간
뉴스

오라클 클라우드 쓰는 AI 혁신기업 어디?…“시간·비용 효율화”

디지털데일리 발행일 2024-03-27 11:08:56

이안나 기자

URL복사

[디지털데일리 이안나기자] 오라클은 AI 혁신기업들이 OCI AI 인프라스트럭처와 OCI 슈퍼클러스터를 활용해 거대언어모델(LLM) 훈련 등 실제 서비스 환경에서 사용 가능한 AI 개발과 배포를 지원한다고 27일 밝혔다.

국내 업체 트웰브 랩스를 비롯해 모달, 수노, 투게더AI 등 수많은 AI 기업들이 대규모 AI 훈련 및 추론을 위해 OCI AI 인프라를 활용하고 있다.

OCI AI 인프라스트럭처를 통해 AI 기업들은 머신러닝(ML), 이미지 처리, 모델 훈련, 추론 연산, 물리 기반 모델링 및 시뮬레이션, 대규모 병렬 HPC 애플리케이션을 위한 고성능 GPU 클러스터를 활용할 수 있게 된다.

서버리스 그래픽처리장치(GPU) 플랫폼 기업 ‘모달’은 고객이 필요한 인프라를 구성 또는 설정할 필요 없이 생성형 AI 모델, 대규모 배치 작업, 작업 쿼리를 실행할 수 있게 해 준다. 모달은 고객이 보다 비용 효과적인 방식으로 추론 작업을 할 수 있도록 OCI 컴퓨트 베어메탈 인스턴스를 활용했다.

‘수노’는 생성형 음악 제작 기업으로, 주력 제품은 몇 초 만에 현실적이고 개인화된 음악을 생성한다. 수노는 독자적인 기계학습 모델을 훈련시키고, 차세대 생성형 음악 모델에 대해 늘어나는 수요를 지원하기 위해 OCI 슈퍼클러스터를 선택했다.

‘투게더 AI’는 생성형 AI 모델의 추론 및 훈련을 위해 가장 빠른 속도의 클라우드 플랫폼을 제공하는 연구 중심 AI 기업이다. 투게더 AI는 최상의 엔지니어링 지원 서비스 등을 이유로 OCI를 선택했다.

국내 AI 스타트업 트웰브 랩스(Twelve Labs)는 멀티모달 비디오 이해를 위한 파운데이션 모델을 구축하는 회사다. 트웰브 랩스는 OCI 컴퓨트 베어메탈 GPU와 OCI가 제공하는 노드 간 고대역폭 덕분에 대규모 모델들을 고속으로 훈련시킬 수 있게 됐다.

그렉 파블릭(Greg Pavlik) 오라클 클라우드 인프라스트럭처 AI 및 데이터 관리 서비스 부문 수석 부사장은 “AI 인프라 활용에 있어, AI 혁신 기업들에게 허용되는 오차범위는 최소의 수준이다”라며 “OCI는 다양한 AI 사용 사례에 대한 컴퓨팅 기능 및 상당한 비용 절감 이점을 제공한다”고 말했다.