인텔 가우디 가속기, FP8 SW로 GPT-3 2배 성능

실시간
뉴스

반도체

인텔 가우디 가속기, FP8 SW로 GPT-3 2배 성능

디지털데일리 발행일 2023-11-10 10:04:35

김문기 기자

URL복사

[디지털데일리 김문기 기자] 인텔(대표 팻 겔싱어)은 ML커먼스가 인텔 가우디2 가속기와 인텔 어드밴스드 매트릭스 익스텐션이 탑재된4세대 인텔 제온 스케일러블 프로세서의AI 모델 학습에 대한 업계 표준 MLPerf 트레이닝 v3.1 벤치마크 측정 결과를 10일 발표했다.

인텔 가우디2는 v3.1 학습 GPT-3 벤치마크에서 FP8 데이터 유형을 적용해 두 배 높은 성능을 보여줬다. 인텔은 해당 벤치마크 제출을 통해 경쟁력 있는 AI 솔루션으로 AI를 어디서나 제공하겠다는 약속을 더욱 공고히 했다.

산드라 리베라 인텔 데이터센터 및 AI 그룹 총괄 산드라 리베라 수석부사장은 “인텔은 AI 포트폴리오를 지속적으로 혁신하고 있으며, 연이은 MLPerf 성능 결과를 통해 ML커먼스 AI 벤치마크의 기준을 높이고 있다. 인텔 가우디 및 4세대 제온 프로세서는 고객에게 뚜렷한 가격 대비 성능 이점을 제공하며 즉시 사용 가능하다. 인텔의 다양한 AI 하드웨어 및 소프트웨어 구성은 고객에게 AI 워크로드에 맞는 포괄적인 솔루션과 선택지를 제공한다”고 말했다.

최신 ML커먼스의 MLPerf 결과는 지난 6월 발표한 MLPerf 트레이닝 결과보다 높은 인텔의 AI 성능을 기반으로 한다. 인텔 제온 프로세서는 MLPerf 결과를 제출하는 유일한 CPU이며, 인텔 가우디2는 테스트 결과 기준으로 세 가지 가속기 솔루션 중 하나로, 이 중 두 가지 솔루션만 현재 구매 가능하다.

한편, 인텔은 소프트웨어 업데이트 및 최적화를 통해 향후 MLPerf 벤치마크에서 AI 성능 결과가 더욱 향상될 것으로 예상하고 있다. 인텔의 AI 제품은 고객에게 성능, 효율성 및 유용성을 요구하는 동적인 요구 사항을 충족하는 AI 솔루션에 대한 더 많은 선택지를 제공한다.