AMD, `MI300X` AI 가속기 5월부터 풀린다…”경쟁사 대비 물량공급 충분” [소부장반차장]

실시간
뉴스

반도체

AMD, 'MI300X' AI 가속기 5월부터 풀린다…”경쟁사 대비 물량공급 충분” [소부장반차장]

디지털데일리 발행일 2024-03-20 14:35:03

김문기 기자

URL복사

[디지털데일리 김문기기자] “(인스팅트 MI300X AI 가속기 공급체인과 관련해) 5년후까지 공급 물량이 충분하다고 말할 수 있겠으나 시장 상황상 장담할 수는 없다. 하지만 올해 충분히 공급 가능한 수준으로 준비됐다. 각 OEM 파트너들이 이미 물량을 확보하고 있는 상황이기 때문에 경쟁사 대비 우리가 좀 더 유리하다.”

이재형 AMD 코리아 커머셜세일즈 대표와 김홍필 AMD 코리아 데이터센터 및 클라우드 솔루션 아키텍트 이사는 20일 서울 코엑스 인터컨티넨탈 호텔에서 열린 ‘AMD AI 비즈니스 오버뷰’ 행사에서 생성형 AI를 위한 최적의 가속기인 ‘AMD 인스팅트 MI300 시리즈 가속기’에 대한 물량 공급에 문제가 없다며 이같이 말했다.

김홍필 이사는 “시장에서 엔비디아 쏠림 현상이 강하다는 사실은 알고 있다”라며, “우리 제품(MI300)은 5월부터 본격적으로 고객에게 딜리버리된다”고 밝혔다.

전세계적으로 AI 열풍이 강하게 불고 있는 가운데, AMD는 ‘퍼베이시브 AI(일상 곳곳에 스며드는 AI)’ 전략을 천명한 바 있다. 리사 수 AMD CEO 역시 향후 5년내 모든 AMD 포트폴리오에 AI 엔진을 탑재하겠다고 밝힌 바 있으며, 클라우드와 HPC, 엔터프라이즈, 임베디드, PC까지 전 분야에 걸쳐 이미 AI 탑재를 실현해오고 있다.

이재형 대표는 “1년전 데이터센터용 AI 가속기 시장은 지난해 300억달러 수준으로 연간 50% 성장률을 기록하면서 2027년 1500억달러에 도달할 것으로 예상했지만, 그 수준을 넘어섰다”라며, “실제 지난해 이 시장은 450억달러로 성장했으며, 연간 70% 이상 성장하면서 2027년 무려 4000억달러 이상으로 늘어날 전망”이라고 말했다.

이어, “AMD는 경쟁사와 달리 모든 분야에 있어 AI를 실현하고 있으며, 닫힌 생태계가 아닌 오픈형 생태계를 추구하고 있다”라며, “개방적이고 검증된 소프트웨어 역량을 통해 개방형 생태계에 집중하겠다”고 덧붙였다.

실제 AMD는 생성형 AI를 위한 AMD 인스팅트 MI300X를 포함한 AMD 인스팅트 MI300 시리즈를 준비해놓고 있다. MI300X 가속기는 AMD CDNA 3 아키텍처 기반으로 최대 192GB의 HBM3 메모리를 지원해 대형 언어 모델(LLM) 훈련과 생성형 AI 워크로드에 필요한 컴퓨팅 및 메모리 효율성을 제공한다.

MI300X 가속기는 대용량 메모리를 지원해 단일 가속기에 매개변수가 400억 개인 팔콘-40(Falcon-40)과 같은 대형 언어 모델을 수용 가능하다.

이를 조합한 ‘AMD 인스팅트 플랫폼’은 8개의 MI300X 가속기를 산업 표준 디자인으로 결합해 향상된 AI 추론 및 훈련을 위한 솔루션을 지원한다. 고성능 컴퓨팅(HPC) 및 AI 워크로드를 지원하는 APU 가속기 AMD 인스팅트 MI300A 역시 이미 제품 검증이 이뤄진 상태다.

김 이사는 “MI300X는 현재 굉장히 뜨거운 AI 시장 쪽을 주요 대상으로 삼는다면, MI300A는 AI 시장뿐만 아니라 전통적인 HPC 시장도 겨냥하고 있는 모델”이라며, “앞선 MI250 시리즈의 경우 전세계 슈퍼 컴퓨팅 랭킹을 세우는 HPC 탑500 리스트에서 랭킹 1위를 차지한 저력이 있다”고 강조했다.

AMD는 하드웨어뿐만 아니라 소프트웨어 측면에서도 역량을 강화하고 있다. 데이터 센터 가속기를 위한 ROCm 소프트웨어 생태계를 통해 개방형 AI 소프트웨어 구축을 위한 주요 협력사와의 협업을 강조했다. 파이토치는 AMD 인스팅트 가속기에서 ROCm 5.4.2 버전 출시와 동시에 파이토치 2.0을 지원하는 등 ROCm 소프트웨어 스택을 활용하고 있다.

김 이사는 “5월부터 MI300 시리즈가 본격적으로 고객사에 전달된다면, 개발자 환경에서는 어떤 GPU를 쓰던지 상관없이 파이토치 환경에서 작업을 진행할 수 있다”라며, “시장에서도 우리 제품을 (경쟁사 제품의) 대체제로 쓰일 수 있도록 도전하고 있다”고 밝혔다.

AI PC 분야에서는 AMD가 한 발 앞서 나간 바 있다. 지난해 2분기 AMD 라이젠 7040(코드명 피닉스)에 첫 NPU가 탑재된 이후 올해초 AMD 라이젠 8040(코드명 호크 포인트)까지 나아갔다. 3세대 모델인 코드명 스트릭스 포인트는 빠르면 연말 OEM에 공급될 것으로 기대된다. 특히 스트릭스 포인트는 AMD XDNA2 아키텍처를 기반으로 차세대 라이젠 AI가 도입될 예정이다. 기존 대비 3배 빠른 생성형 AI NPU 성능을 보일 것이라 확신했다.

임태빈 AMD 코리아 컨슈머팀 세일즈 및 마케팅 스페셜리스트는 “앞으로 출시될 스트릭스 포인트는 올해말 출시가 예상되는데 개인용 온 디바이스 AI 솔루션에 가장 근접한 제품이라고 이해하면 된다”라며, “개인이 생성형 AI를 전용화해 사용할 수 있을 정도의 성능을 보여줄 것”이라고 자신했다.