HPE, 복잡한 대규모 AI 모델 학습 가속화를 위한 AMD 기반 신규 서버 출시

실시간
뉴스

하드웨어

HPE, 복잡한 대규모 AI 모델 학습 가속화를 위한 AMD 기반 신규 서버 출시

디지털데일리 발행일 2024-10-16 09:26:17

이상일 기자

URL복사

[디지털데일리 이상일기자] HPE는 최근 5세대 AMD 에픽(EPYC) 프로세서와 AMD 인스팅트(Instinct) MI325X 가속기를 탑재한 HPE ProLiant Compute XD685 서버를 출시했다.

이 서버는 대규모 언어 모델(LLM) 학습, 자연어 처리(NLP), 멀티모달 학습 등 고성능 인공지능(AI) 클러스터를 신속하게 배포할 수 있도록 설계된 제품으로, AI의 잠재력을 극대화하고 다양한 분야에서 혁신적인 성과를 도출하는 데 중점을 두고 있다.

이번 발표에서 HPE는 AMD와의 협력을 강조하며, AI 서비스 제공업체, 정부, 대규모 AI 모델 개발자들이 요구하는 유연하고 고성능의 솔루션을 제공해 AI 경쟁에서 우위를 점하려는 목표를 제시했다. HPE의 HPC 및 AI 인프라 솔루션 부문 수석 부사장인 트리시 댐크로거는 대규모 언어 모델 학습을 지원하는 HPE의 고성능 컴퓨팅 솔루션의 중요성을 언급하며, AMD와 함께 AI 모델 개발자들의 수요를 충족시키고 과학 및 공학 분야의 혁신을 가속화할 것이라고 말했다.

HPE ProLiant Compute XD685의 주요 특징 중 하나는 AMD 인스팅트 MI325X 가속기로, 이는 AI 학습 및 추론 작업에서 뛰어난 성능과 효율성을 제공하며 HBM3e 메모리를 통해 메모리 대역폭을 극대화하고 총소유비용(TCO)을 절감한다. 또한 HPE는 직접 수냉 방식(Direct Liquid Cooling) 기술을 통해 에너지 효율성을 향상시키고 지속가능성을 실현할 수 있는 솔루션을 제공하고 있다.

이 시스템은 5U 모듈형 섀시로 다양한 GPU, CPU, 구성 요소, 소프트웨어 및 냉각 방식을 수용할 수 있는 유연성을 갖추고 있으며, AI 클러스터의 신속한 배포를 가능하게 한다. 또한 HPE iLO를 통한 보안 혁신과 강력한 관리 기능을 제공해 AI 시스템의 안전한 운영을 보장한다.

HPE ProLiant Compute XD685 서버는 현재 HPE를 통해 주문할 수 있으며, 2025년 1분기부터 다양한 구성을 통해 순차적으로 출시될 예정이다. HPE는 이번 서버가 AMD 에픽 프로세서를 탑재한 프로라이언트 서버의 성능과 전력 효율성에서 48개의 세계 기록을 달성했다고 발표했다. 이를 통해 AI 경쟁력을 강화하고 대규모 언어 모델 학습 및 다양한 AI 프로젝트에서 큰 역할을 할 것으로 기대된다.