SK하이닉스, HBM 이어 AI 가속기 시장 노린다

실시간
뉴스

반도체

SK하이닉스, HBM 이어 AI 가속기 시장 노린다

디지털데일리 발행일 2023-09-18 16:46:00

김도현 기자

URL복사

美 ‘AI 서밋 2023’ 참가…AiMx 시제품 최초 공개

[디지털데일리 김도현 기자] SK하이닉스가 인공지능(AI) 시장 공략을 확대한다. 고대역폭 메모리(HBM)에 더해 AI 가속기로 영역을 확장하려는 움직임이다.

18일 SK하이닉스는 최근 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 ‘AI 하드웨어 & 엣지 AI 서밋 2023’에서 그래픽더블데이터레이트(GDDR6)-액셀러레이터인메모리(AiM) 기반 생성형 AI 가속기 카드인 ‘AiMX(AiM based Accelerator)’ 시제품을 처음으로 선보이고 시연했다고 전했다.

AI 서밋은 영국 마케팅 기업 키사코 리서치가 주최하는 연례행사로 글로벌 정보기술(IT) 기업과 유명 스타트업이 참가해 AI와 머신러닝 개발 성과를 공유하는 자리다. SK하이닉스가 올해로 세 번째 참석했다.

회사는 이번 행사에서 ‘AI 성능을 가속하는 SK하이닉스의 프로세스인메모리(PIM) 반도체 AiM’이라는 슬로건을 걸고 GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 소개했다. AiMX는 GDDR6-AiM 칩을 사용해 대규모 언어 모델(LLM)에 특화된 SK하이닉스의 가속기 카드다.

AiMX의 성능에 대해 설명하는 임의철 SK하이닉스 부사장 [사진=SK하이닉스]

생성형 AI는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 한다.

SK하이닉스는 메타(구 페이스북)의 생성형 AI인 ‘OPT(Open Pre-trained Transformer) 13B’ 모델을 AiMX 시제품을 탑재한 서버 시스템에서 시연했다. GDDR6-AiM 칩을 장착한 AiMX 시스템은 그래픽처리장치(GPU)를 탑재한 시스템 대비 반응 속도는 10배 이상 빠르지만 전력 소모는 5분의 1 수준이다.

임의철 SK하이닉스 부사장(메모리솔루션담당)은 ‘생성형 AI 서비스를 위한 효율적 AiM 가속 솔루션’이라는 주제로 GPU와 AiMX의 성능을 비교, 차세대 지능형 메모리 반도체의 미래를 설명했다.

그는 “SK하이닉스의 AiMX는 기존 GPU를 쓸 때보다 고성능, 저전력에 비용도 절감할 수 있는 솔루션”이라며 “앞으로도 당사는 인공지능 시대를 이끌어갈 메모리 기술 개발을 이어나갈 것”이라고 밝혔다.