[DTW 2023] “데이터센터를 AI공장으로”…델-엔비디아, 구축형 생성형 AI 맞손

실시간
뉴스

소프트웨어

[DTW 2023] “데이터센터를 AI공장으로”…델-엔비디아, 구축형 생성형 AI 맞손

디지털데일리 발행일 2023-05-24 09:15:03

(미국=라스베이거스)이상일 기자

URL복사

[디지털데일리 이상일기자] 델테크놀로지스와 엔비디아가 클라우드가 아닌 온프레미스에서 생성형 AI를 구축, 운영할 수 있도록 협력에 나섰다. 그동안 생성형 AI는 막대한 컴퓨팅 자원이 필요해 클라우드에서 운영이 불가피하다는 관측이었지만 엔비디아와 델테크놀로지스가 협력해 이를 구축형으로 개발, 운영이 가능하도록 한다는 계획이다.

델 테크놀로지스(Dell Technologies)는 5월 22일부터 5월 25일(현지시간) 미국 라스베가스 만달레이 베이(Mandalay Bay) 리조트에서 개최하는 연례 컨퍼런스 ‘DTW(델 테크놀로지스 월드) 2023’ 2일차 행사에서 엔비디아와의 협력을 통해 온프레미스 생성형 AI 구축을 위한 ‘프로젝트 헬릭스(Project Helix)’를 발표했다.

델 테크놀로지스와 엔비디아(NVIDIA)는 생성형 AI 모델을 온프레미스로 구축하고 사용할 수 있도록 지원하기 위해 공동의 이니셔티브를 추진한다.

이 날 젠슨 황 엔비디아 CEO는 제프 클락(Jeff Clarke) 델테크놀로지스 부회장과 화상 대화를 통해 “엔비디아와 델이 엔터프라이즈 컴퓨팅을 재창조했다. 그동안 데이터센터가 파일을 저장하고 모든 직원 정보 관리 등에 국한됐다면 앞으로 데이터센터는 도메인 전문 지식과 독점 데이터를 활용하고 이를 인텔리전스로 변환하는 데 집중할 것이다. 데이터센터는 더 이상 데이터센터가 아니라 AI 공장이라고 불러야 할 것”이라고 밝혔다.

양 사 협력을 통해 진행되는 ‘프로젝트 헬릭스(Project Helix)’는 델과 엔비디아의 인프라 및 소프트웨어가 사전 구성되어 있는 풀 스택 솔루션으로 제공된다. 기업에서는 이를 활용해 독점적으로 보유한 데이터를 바탕으로 쉽고 간편하게, 정확하고 책임감 있는 생성형 AI를 구축할 수 있다.

젠슨 황 CEO는 “우리는 PC 혁명, 인터넷, 클라우드 및 모바일의 발전을 봤다. 하지만 생성형 AI는 이와는 다른 거대한 이슈다. 사용하기 쉽고 놀라운 일을 한다. API로서 거의 모든 언어와 모든 형태의 입력을 이해할 수 있어 모든 것에 연결할 수 있고 인간이라는 보편적인 프로그래밍 언어를 가지고 있다는 점에서 완전히 새로운 컴퓨팅 플랫폼이다”라고 밝혔다.

또 그는 “이러한 AI를 활용하기 위해선 데이터가 있는 곳에서 과정이 진행되어야 한다. 우리가 할 수 있는 추론을 위해선 모든 데이터가 있는 곳, 응답성이 최대한 높은 곳, 즉 가능한 엣지에 가까운 곳에서 결정을 내리는 능력이 정말 중요하다”며 “이를 위해 워크로드는 로컬, 온프레미스에 구축되어야 한다. 데이터의 무결성을 유지하며 높은 가치의 결과를 이끌어내야 한다. 특히 기업의 도메인 전문 지식과 독점 데이터는 클라우드에 업로드할 수 없다”고 강조했다.

제프 클락 델테크놀로지스 부회장이 엔비디아와의 협력을 통한 '프로젝트 헬릭스'에 대해 얘기하고 있다.

프로젝트 헬릭스는 델이 제공하는 하드웨어와 소프트웨어 중 최적화된 조합으로 엔터프라이즈 생성형 AI를 간소화한다.

엔터프라이즈 데이터를 가치 있는 결과물로 재탄생 시키는 동시에, 데이터 프라이버시를 유지할 수 있다. 인프라 프로비저닝, 모델링, 학습, 미세 조정, 애플리케이션 개발 및 배포에서부터 추론 배치와 결과 간소화에 이르기까지 생성형 AI 라이프사이클 전체를 지원한다.

파워엣지 XE9680 및 파워엣지 R760xa와 같은 델 파워엣지 서버는 생성형 AI 교육 및 AI 추론을 위한 성능을 제공하도록 최적화되어 있다.

델 서버와 엔비디아 H100 텐서코어 GPU(NVIDIA H100 Tensor Core GPU) 및 엔비디아 네트워킹의 조합은 이러한 워크로드에 적합한 인프라 백본을 형성한다. 이 인프라는 델 파워스케일(Dell PowerScale) 및 델 ECS 엔터프라이즈 오브젝트 스토리지(Dell ECS Enterprise Object Storage) 등의 탄력적이고 확장 가능한 비정형 데이터 스토리지와 연계할 수 있다.

모든 종류의 델 검증 설계에서 고객들은 델 서버와 스토리지 소프트웨어의 엔터프라이즈 기능을 사용할 수 있으며, AI옵스(AIOps) 소프트웨어인 델 클라우드IQ(Dell CloudIQ)를 통해 인프라 통찰력도 확보할 수 있다.

프로젝트 헬릭스에는 또한 엔비디아 AI 엔터프라이즈 소프트웨어가 포함돼 100여개 이상의 프레임워크, 사전 학습 모델, 개발 툴이 제공되며, 특히 대형 언어 프레임워크인 엔비디아 네모(NVIDIA NeMo)와 네모 가드레일(NeMo Guardrails) 소프트웨어를 통해 최신 정보의 안전한 생성형 AI 챗봇 구축을 지원한다.

제프 클락 델테크놀로지스 부회장은 “범용 거대언어모델(LLM)은 무난한 답변을 한다. 개인에 최적화된 답변은 아니다. 우리는 고객들이 엔비디아의 사전 트레이딩을 마친 모델과 델의 파워엣지, 파워스케일 스토리지를 기반으로 LLM을 해당 분야의 전문가로 만든다. 생성형 AI를 만들 때 그 기업이 가진 자산을 활용해 마케팅 이메일, 온라인 고객 서포트, 스토어 내 키오스크를 지능화할 수 있다”고 강조했다.