[인텔 AI 에브리웨어] ② ‘인텔 제온5’ 교체 효과…성능 높였더니 비용 줄었다

실시간
뉴스

PC/프린팅/디바이스

[인텔 AI 에브리웨어] ② ‘인텔 제온5’ 교체 효과…성능 높였더니 비용 줄었다

디지털데일리 발행일 2023-12-18 15:24:52

김문기 기자

URL복사

[소부장반차장] 실제 양산제품 통한 시장 변화 확인

나승주 인텔코리아 상무는 18일 서울 여의도 전경련회관에서 열린 '인텔 AI 에브리웨어' 간담회를 통해 인텔 제온5 프로세서를 직접 소개했다

[디지털데일리 김문기 기자] 인텔이 정식으로 국내 시장에 ‘인텔 제온5 프로세서’ 출시를 알렸다. 유일하게 AI 가속기를 내장한 메인스트림 데이터센터 프로세서로 1세대 제온에서 교체한다면, 총소유비용(TCO)를 무려 77%까지 절감할 수 있다. 이미 제온이 여러 성공사례를 구축해왔듯이 이번 인텔 제온5도 시장체인저 역할을 해줄 것으로 기대된다.

인텔은 18일 서울 여의도 전경련회관에서 ‘AI 에브리웨어’ 간담회를 개최하고 지난 14일(현지시간) 미국 뉴욕에서 공개된 ‘인텔 제온5 프로세서’를 국내 정식으로 첫 소개했다.

5세대 인텔 제온 프로세서는 데이터 센터, 클라우드, 네트워크 및 엣지 전반에서 ‘더욱 강력하고 빠른 성능을 갖춘 AI’를 구현하도록 지원한다. P코어 기반 5세대 제온은 ‘인텔7’ 공정으로 생산되는 마지막 세대다. 성숙한 공정을 통해 완성도를 높였다.

나승주 인텔코리아 상무는 “15년전부터 고객들과 클라우드 전환을 주도했다. 그 때는 워크로드를 어디서 처리하는지가 중요했다면 이제부터는 반드시 맞춰야 하는 서비스 수준 향상이 중요한 핵심 과제로 부상했다”라며, “클라우드 전환되는 것과 동일하게 AI도 계속해서 변할 것이고, 현재는 초기단계라 믿고 있다”고 말했다.

이어, “거대 AI 모델과 GPU가 핵심으로 지목되고 있지만 이것으로는 부족하다”라며, “지연시간을 더 낮추고 비용을 절약하고, 전력소모량도 줄이고, 개인정보도 보호해야되면서 엣지 쪽 요구가 중요시되고 있다”라며, “다양한 실리콘 플랫폼 전략과 그 위에서의 소프트웨어 지원 등 파트너사들과 긴밀하게 협력을 진행하면서 점차 폭증하는 엣지 수요에 대응하고자 한다”고 강조했다.

"고성능 제공은 TCO 절감이다" 공식 구축

5세대 제온은 이전 세대와 비교해 동일한 전력 범위 내에서 평균 21% 향상된 범용 컴퓨팅 성능을 제공한다. 평균 36% 향상된 와트당 성능을 제공해 기업의 광범위한 워크로드 요구사항을 충족시킨다. 5년 주기로 업그레이드하는 고객의 경우 제온1 대비 최대 77%까지 TCO 절감이 가능하다.

제온은 유일하게 AI 가속기를 내장한 메인스트림 데이터 센터 프로세서다. 최대 200억 개 파라미터 규모의 대형 모델 상에서 최대 42% 향상된 추론 및 미세 조정 성능을 구현한다. 그 밖에도 MLPerf 훈련 및 추론 벤치마크 결과에서 시중 CPU 제품 중 유일하게 일관적으로 성능을 향상시켜 온 것으로 확인된다는게 인텔의 설명이다.

CPU 1개당 지원되는 코어 수가 최대 64개이고, 최대 마지막 레벨 캐시가 이전 세대와 비교 시 거의 3배에 이른다. 또한 CPU 1개당 DDR5 채널을 8개 제공하고, 초당 최대 5600메가트랜스퍼(MT/s)로 DDR5를 지원하고, 인텔 UPI 2.0을 통해 소켓 간 대역폭을 높여 초당 최대 20기가트랜스퍼(MT/s)까지 제공한다. 일부 선두 클라우드 서비스 제공업체(CSP)를 통해 컴퓨팅 익스프레스 링크(CXL) 타입3 워크플로우를 지원한다.

5세대 제온은 이전 세대와 핀 호환이 가능하다. 시스코와 델, HPE, 인스퍼일렉트로닉인포메이션, 레노버, 슈퍼마이크로컴퓨터 등 OEM 업체들이 2024년 1분기부터 단일 및 이중 소켓 시스템을 다양하게 저공할 예정이다. 주요 CSP 업체들은 1년에 걸쳐 5세대 제온 프로세서 기반 인스턴스 출시를 발표할 것으로 기대된다.

인텔 트러스트 도메인 확장은 가상 머신 수준에서 기밀성과 보안을 강화해 강력한 개인정보보호와 데이터 제어를 제공한다. 4세대 제온에서 일부 CSP에서만 제공됐으나 5세대 제온부터는 모든 OEM과 CSP 솔루션 공급업체가 이용할 수 있다. 인텔 TDX 기밀 VM에서는 게스트 운영체제와 VM 애플리케이션 플랫폼의 클라우드 호스트, 하이퍼바이저, 기타 VM에서 액세스하지 못하도록 격리된다.

5세대 제온 성능, 파트너사 검증

제온에 내장된 AI 가속기는 통신 서비스 제공업체, 콘텐츠 전송 네트워크 및 소매·의료·제조를 포함한 다양한 시장을 대상으로 최적화된 소프트웨어 및 향상된 텔레메트리 기술과의 결합을 통해 까다로운 네트워크 및 엣지 워크로드를 더욱 손쉽고 효율적으로 배포할 수 있도록 지원한다.

나 상무는 인텔이 이미 실현한 여러 성공사례를 소개하기도 했다. IBM은 자체 테스트 결과 자사의 데이터 레이크하우스 플랫폼 왓슨x.데이터(watsonx.data)에서 5세대 인텔 제온 프로세서가 이전 세대 제품 대비 최대 2.7배 향상된 쿼리 쓰루풋을 달성했다고 설명했다. 인디 게임 스튜디오인 갈리움 스튜디오(Gallium Studios)는 실리콘밸리의 신경과학 AI 솔루션 전문기업 누멘타(Numenta)의 제온 프로세서 상에서 구동되는 AI 플랫폼을 도입함으로써 GPU 기반 클라우드 인스턴스 대비 6.5배 높은 추론 성능을 달성했다는 점을 강조했다.

또한 콘텐츠 스트리밍 기업인 넷플릭스도 2배 성능 향상을 보여줬다. 제온과 내장 AI 가속 엔진을 활용해 지능화된 콘텐츠 다운스케일용 컨볼루션 신경망을 구축할 수 있게 됐다. 성능 개선은 상당 수준의 클라우드 인프라 비용 절감을 말하기도 한다. 즉, 제온 교체를 통해 성능뿐만 아니라 비용 절감 효과까지 거둔 셈이다.

그는 “AI 엣지 시장은 4452억달러 규모의 기회가 잠재된 곳”이렴, “심층적인 소프트웨어 에코시스템 지원과 더 뛰어난 성능을 달성해 관련 생태계를 활성화하는데 노력하겠다”고 밝혔다.

한편, 인텔은 내년 상반기 E코어 기반 코드명 시에라 포레스트를 출시하고 이어 P코어 기반 크래나이트 래피즈를 출시한다. 2025년은 인텔 4년내 5개공정 실현의 마지막 단계인 인텔18A 기반의 클리어워터 포레스트를 내놓을 계획이다.