[현장에선] "HBM3E 16H부터 유리기판까지"… 그룹 AI 역량 총집결한 `SK AI 서밋 24`

실시간
뉴스

반도체

[현장에선] "HBM3E 16H부터 유리기판까지"… 그룹 AI 역량 총집결한 'SK AI 서밋 24'

디지털데일리 발행일 2024-11-04 17:11:19

배태용 기자

URL복사

[디지털데일리 배태용 기자] 'SK AI 서밋 2024'가 4일 막을 올리며 SK 그룹의 최신 AI 기술을 대중에 공개했다. 그룹의 계열사들이 연구해 온 AI 관련 신기술들이 한자리에 모여 첨단 기술 전시의 장을 만들었다.

올해 서밋에서 가장 이목을 끈 것은 처음으로 공개된 HBM3E 16단이다. 오전에 진행된 곽노정 SK하이닉스 CEO는 기조연설에서 HBM3E 16단 개발 소식을 처음으로 알렸다. HBM3E 16단은 3GB(기가바이트) D램을 16층으로 쌓아 올려 최고 용량인 총 48GB를 구현한 제품이다.

곽 CEO는 "HBM3E 16단 제품은 기존 12단 구성 대비 학습 성능이 18%, 추론 성능이 32% 향상되는 것으로 확인됐다"라며 "내년 초부터 이 제품의 샘플을 고객사에 제공할 예정이며, 이를 통해 AI 시장의 급증하는 메모리 수요에 대응하겠다는 계획이다"라고 소개했다.

첫 공개 된 만큼, 전시 부스엔 HBM3E 16단 제품에 관람객들의 발길이 몰렸다. AI 모델의 방대한 데이터를 신속히 처리할 수 있는 이 제품은 AI 서버와 데이터센터의 연산 속도를 획기적으로 높일 수 있어, 복잡한 연산 작업에서도 끊김 없는 성능을 제공할 수 있다.

엔비디아의 차세대 AI 가속기 '블랙웰' 시리즈 GB200, CPU 등이 탑재된 패키지보드.

전시 부스에는 CPU, 엔비디아의 GPU 등이 탑재 돼 있는 패키지보드도 전시돼 있다. GB200에는 총 8개의 HBM3E가 들어간다.

현장에서 만난 SK하이닉스 관계자는 "이번에 전시된 HBM3E 16단 48GB는 기존의 메모리보다 월등한 성능을 제공, AI와 빅데이터 시대를 준비하는 데 필수적인 기술"이라며, "고객들에게 차별화된 솔루션을 제공하게 될 것이다"라고 밝혔다.

또 다른 부스에서는 SKC의 자회사인 SK앱솔릭스의 유리기판 기술이 전시됐다. 유리 기판은 AI 서버와 고성능 컴퓨팅 환경에서 필수적인 역할을 수행하는 핵심 기술로, 고성능·고밀도 통합이 필수적인 AI 반도체의 진화를 가능하게 한다.

AI 서버는 엄청난 연산을 빠르게 수행하기 위해 다수의 칩이 좁은 공간에 집적돼야 하는데, 유리 기판은 기존 PCB 기판보다 더 미세한 회로 패턴을 구현할 수 있어 데이터 처리 속도와 효율성을 극대화할 수 있다. 기존 PCB 기판이 고밀도 회로를 설계하는 데 한계가 있었다면, 유리 기판은 그 한계를 뛰어넘어 고성능 컴퓨팅에서 더욱 복잡한 회로를 안정적으로 구현할 수 있다.

또한, 유리 기판은 열팽창 계수가 실리콘과 비슷해, 칩과 기판 사이의 물리적 변형이 적어 안정적인 열 관리가 가능하다. AI 서버가 높은 온도에서 지속적으로 작동할 때 발생하는 열을 효과적으로 방출, 시스템의 장기적 안정성을 보장한다. 더불어, 유리 기판은 표면이 매끄럽고 열전도성이 우수해, 전기 신호가 빠르게 이동하고 신호 손실을 줄여 AI 시스템의 처리 효율을 극대화할 수 있다.