젠슨 황 엔비디아 “차세대 산업혁명 시작…전세계 블랙웰 AI 가속화” [컴퓨텍스 2024]

실시간
뉴스

PC/프린팅/디바이스

젠슨 황 엔비디아 “차세대 산업혁명 시작…전세계 블랙웰 AI 가속화” [컴퓨텍스 2024]

디지털데일리 발행일 2024-06-02 22:41:56

타이베이(대만)=김문기 기자

URL복사

차세대 산업혁명 견인하는 AI 팩토리와 데이터센터 구축 위한 협력 발표

젠슨 황 엔비디아 창립자 겸 CEO가 2일(현지시간) 대만 타이베이에 위치한 국립 타이베이 대학교 스포츠센터에서 엔비디아 컴퓨텍스 2024 기조연설을 가진 자리에서 블랙웰 기반 플랫폼을 손에 들고 있다.

[디지털데일리 김문기 기자] “차세대 산업 혁명이 시작됐다. 수조 달러 규모의 기존 데이터센터를 가속 컴퓨팅으로 전환하고 새로운 유형의 데이터센터인 AI 팩토리를 구축해 새로운 상품인 인공지능을 생산하기 위해 기업과 국가들이 엔비디아와 협력하고 있다.”

젠슨 황 엔비디아 창립자 겸 CEO는 2일(현지시간) 대만 타이베이에 위치한 국립 타이베이 대학교 스포츠센터에서 열린 엔비디아 컴퓨텍스 2024 기조연설에 나서 세계 최고의 컴퓨터 제조업체들과 협력해 차세대 생성형 AI 혁신을 주도할 AI 팩토리와 데이터센터 구축을 위해 기업이 사용할 수 있는 그레이스(Grace) CPU, 엔비디아 네트워킹과 인프라를 갖춘 다양한 엔비디아 블랙웰(Blackwell) 아키텍처 기반 시스템을 공개하며 이같이 말했다.

아울러, 젠슨 황 CEO는 애즈락 랙(ASRock Rack), 에이수스(ASUS), 기가바이트(GIGABYTE), 인그라시스(Ingrasys), 인벤텍(Inventec), 페가트론(Pegatron), QCT, 슈퍼마이크로(Supermicro), 위스트론(Wistron), 위윈(Wiwynn)이 엔비디아 GPU와 네트워킹을 사용해 클라우드, 온프레미스, 임베디드와 엣지 AI 시스템을 제공한다고 발표했다.

그는 “서버, 네트워킹, 인프라 제조업체부터 소프트웨어 개발자에 이르기까지 업계 전체가 블랙웰을 통해 모든 분야에서 AI 기반 혁신을 가속화할 준비를 하고 있다”고 말했다.

엔비디아는 단일 GPU부터 멀티 GPU, x86 기반 프로세서부터 그레이스 기반 프로세서, 공냉식부터 수냉식 기술까지 다양한 제품을 제공한다. 엔비디아 MGX 모듈형 레퍼런스 디자인 플랫폼은 엔디비아 블랙웰 제품을 지원한다. 메인스트림 대규모 언어 모델 추론, 검색 증강 생성과 데이터 처리를 위한 탁월한 성능을 제공하도록 설계된 새로운 엔비디아 GB200 NVL2 플랫폼이 포함된다.

GB200 NVL2는 기업들이 매년 수백억 달러를 지출하는 데이터 분석과 같은 신흥 시장 기회에 적합하게 설계됐다는 게 엔비디아의 설명이다. NV링크(NVLink)-C2C 인터커넥트와 블랙웰 아키텍처의 전용 압축 해제 엔진이 제공하는 고대역폭 메모리 성능을 활용하면 데이터 처리 속도가 최대 18배 빨라진다. x86 CPU를 사용할 때보다 에너지 효율이 8배 향상된다.

가속 컴퓨팅을 위한 모듈식 레퍼런스 아키텍처 전 세계 데이터센터의 다양한 가속 컴퓨팅 요구 사항을 충족하기 위해 엔비디아 MGX는 컴퓨터 제조업체에 100가지 이상의 시스템 디자인 구성을 빠르고 비용 효율적으로 구축할 수 있는 레퍼런스 아키텍처를 제공한다.

제조업체는 서버 섀시를 위한 기본 시스템 아키텍처로 시작한 다음 다양한 워크로드를 처리하기 위해 GPU, DPU, CPU를 선택한다. 현재까지 25개 이상의 파트너사에서 90개 이상의 시스템이 출시됐거나 개발 중이다. 이는 지난해 6개 파트너사의 14개 시스템에서 증가한 수치다. MGX를 사용하면 개발 비용을 최대 4분의 3까지 절감하고 개발 시간을 최대 3분의 2 줄인 6개월까지 단축할 수 있다.

AMD와 인텔은 자체 CPU 호스트 프로세서 모듈 설계를 제공할 계획으로 MGX 아키텍처를 지원하고 있다. 차세대 AMD 튜린(Turin) 플랫폼과 인텔 제온6 그래나이트 래피즈(Granite Rapids)의 P-코어가 포함된다.

엔비디아 최신 플랫폼인 GB200 NVL2 역시 MGX와 블랙웰을 활용한다. 스케일아웃, 단일 노드 설계를 통해 다양한 시스템 구성과 네트워킹 옵션을 지원해 가속 컴퓨팅을 기존 데이터센터 인프라에 통합할 수 있다.

GB200 NVL2는 엔비디아 블랙웰 텐서 코어(Tensor Core) GPU, GB200 그레이스 블랙웰 슈퍼칩(Superchip), GB200 NVL72를 포함하는 블랙웰 제품 라인업에 합류했다.

엔비디아, 대만과 함께 차세대 AI 시장 문 연다

엔비디아의 포괄적인 파트너 에코시스템에는 파운드리 파트너인 TSMC를 비롯해 AI 팩토리 구축을 위한 핵심 구성요소를 제공하는 글로벌 전자제품 제조업체가 포함된다. 서버 랙, 전원 공급 장치, 냉각 솔루션 등 제조 혁신 기술을 보유한 암페놀(Amphenol), 아시아 바이털 컴포넌트(Asia Vital Components, AVC), 쿨러 마스터(Cooler Master), CPC(Colder Products Company), 댄포스(Danfoss), 델타 일렉트로닉스(Delta Electronics), 라이트온(LITEON) 등이 포함된다.

전 세계 기업의 요구를 충족하는 새로운 데이터센터 인프라를 신속하게 개발하고 배포할 수 있으며, 선도적인 시스템 제조업체인 델 테크놀로지스(Dell Technologies), 휴렛 팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE), 레노버(Lenovo)의 서버에서 블랙웰 기술, 엔비디아 퀀텀-2(Quantum-2) 또는 퀀텀-X800 인피니밴드(InfiniBand) 네트워킹, 엔비디아 스펙트럼-X(Spectrum-X) 이더넷 네트워킹, 엔비디아 블루필드-3(BlueField-3) DPU로 더욱 가속화한다는 설명이다.

또한 기업들은 엔비디아 NIM 추론 마이크로서비스가 포함된 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼을 활용해 프로덕션급 생성형 AI 애플리케이션을 제작하고 실행할 수 있다.

젠슨 황 CEO는 기조연설에서 대만의 선도 기업들이 AI를 자체 비즈니스에 활용하기 위해 블랙웰을 빠르게

도입하고 있다고 발표했다.

대만의 대표적인 의료기관인 CGMH(Chang Gung Memorial Hospital)은 엔비디아 블랙웰 컴퓨팅 플랫폼을 사용해 생물의학 연구를 발전시키고, 영상과 언어 애플리케이션을 가속화해 임상 워크플로우를 개선한다.

세계 최대 전자제품 제조업체 폭스콘(Foxconn)은 엔비디아 그레이스 블랙웰을 사용해 AI 기반 전기 자동차와 로봇 플랫폼을 위한 스마트 솔루션 플랫폼을 개발하고, 고객에게 보다 개인화된 경험을 제공하기 위한 언어 기반 생성형AI 서비스를 확대할 계획이다.

R. 아담 노위트 암페놀 대표 겸 CEO는 “엔비디아의 획기적인 AI 시스템에는 최신 인터커넥트 솔루션이 필요하며, 암페놀은 핵심 부품을 공급하게 된 것을 자랑스럽게 생각한다. 엔비디아의 풍부한 에코시스템의 중요한 파트너로서 우리는 블랙웰 가속기를 위한 매우 복잡하고 효율적인 인터커넥트 제품을 제공해 최첨단 성능을 제공할 수 있다”고 말했다.