엔비디아·AMD 지갑 열게 한 `D램탑` HBM [테크다이브]

실시간
뉴스

반도체

엔비디아·AMD 지갑 열게 한 'D램탑' HBM [테크다이브]

디지털데일리 발행일 2023-06-19 06:00:00

김도현 기자

URL복사

- AI 반도체 시장 개화에 따라 HBM 수요 급증

- 삼성전자·SK하이닉스, 사업 확장 가속화

[디지털데일리 김도현 기자] 길고 긴 코로나19 국면이 사실상 끝난 2023년 상반기도 어느덧 끝나가고 있습니다. 무더위가 성큼 찾아오면서 본격적인 여름이 시작됐는데 지난해 하반기부터 이어진 메모리 겨울은 여전히 물러나지 않고 있네요.

장기 침체로 어둡던 메모리 업계에 한 줄기 빛이 내려왔는데요. 주인공은 고대역폭 메모리(HBM)입니다. HBM은 쉽게 말해 D램을 쌓아 만든 제품입니다. 램은 정보를 기록하고 해당 정보를 읽거나 수정할 수 있는 메모리인데요. D램은 이름 그대로 다이내믹한 램으로 속도가 빠른 것이 강점이죠. 이를 여러 개 적층했다면 속도는 극대화되겠죠.

여기서 잠깐. 메모리에는 다양한 특성이 있는데요. 이중 대역폭, 반응속도, 용량 등이 핵심 가치로 꼽힙니다. 대역폭이란 메모리에서 한 번에 빼낼 수 있는 데이터의 양을 나타냅니다. 반응속도는 중앙처리장치(CPU), 그래픽처리장치(GPU) 등에서 요청이 왔을 때 얼마나 빠르게 반응할 수 있는지를 의미하죠. 용량은 메모리 안에 얼마만큼 데이터를 담을 수 있는지를 말합니다.

HBM이 고대역폭이라고 했으니 한 번에 많은 데이터를 빼낼 수 있다는 의미겠죠. 가령 8단의 HBM3를 비유하자면 8차선 도로를 만드는 대신 1차선 도로를 8층으로 구성하는 것이죠. 이를 적층할 때 필수적인 기술이 실리콘관통전극(TSV)입니다.

TSV는 D램에 수천개의 미세 구멍을 뚫어 위아래 칩을 수직 관통하는 전극으로 연결하는 패키징 방식이죠. 와이어본딩, 플립칩본딩 등 대비 신호 전달 속도가 빠르고 집적도를 확보하기도 유리하다고 하네요. 다만 칩을 층층이 쌓는 과정에서 발열에 문제가 생길 수 있어 개별 칩 동작 속도는 의도적으로 줄입니다.

초기에 HBM은 성능이 높은 그래픽을 처리하기 위해 제작됐습니다. 수백만개 픽셀을 동시에 계산해야 했기 때문에 고대역폭을 갖춘 메모리가 필요했던 것이죠. 이 과정에서 병렬 작업이 가능한 GPU가 단순 그래픽 처리가 아닌 가속, 연산, 학습 등 역할을 맡게 되면서 HBM 역시 활동 범위가 넓어집니다.

자율주행, 챗GPT 등 산업 확장으로 인공지능(AI) 시대가 본격 개화하면서 고성능 GPU 수요가 대폭 늘었고 GPU 파트너인 HBM 시장까지 커지게 된 것이죠.

HBM은 1세대(HBM)-2세대(HBM2)-3세대(HBM2E)-4세대(HBM3) 순으로 개발되고 있습니다. 점차 쌓는 D램 개수나 패키징 기술이 개선되고 있죠. D램 분야를 삼성전자가 주도해온 것과 달리 HBM 부문에서는 SK하이닉스가 한발 앞선다는 평가를 받습니다. 점유율 측면에서도 SK하이닉스는 약 50%를 차지하고 있습니다.

실제 SK하이닉스는 4세대 제품을 세계 최초 양산했는데요. 최근에는 4세대 최대 용량을 16기가바이트(GB)에서 24GB로 늘렸습니다. D램 단품 8개에서 12개로 층수를 높인 것이죠. 4개 더 쌓았음에도 D램을 약 40% 얇게 만들어 총 두께를 유지했습니다. 다만 칩이 얇아지면서 쉽게 휘어지는 등 이슈가 발생하는데요. 이때 TSV에 어드밴스드 MR-MUF((Mass Reflow-Molded Under Fill)라는 또 다른 기술이 더해집니다.

MR-MUF는 반도체를 쌓아 올린 뒤 칩과 칩 사이 회로를 보호하기 위해 액체 형태 보호재를 공간 사이에 주입하고 굳히는 공정을 일컫습니다. 칩을 하나씩 적층할 때마다 필름형 소재를 깔아주는 방식 대비 효율적이고 열 방출에 효과적인 것으로 전해집니다.

에폭시 밀봉재(EMC)라는 소재를 활용해 해당 효과를 극대화하기도 했습니다. EMC는 열경화성 고분자의 일종인 에폭시 수지를 바탕으로 만든 방열 소재입니다.

SK하이닉스는 다음 세대로 넘어갈 준비도 한창입니다. 5세대인 HBM3E 개발을 어느 정도 완료하면서 엔비디아가 HBM3E 샘플을 요청한 것으로 알려졌죠.

아울러 SK하이닉스는 HBM 생산능력 확대를 검토 중입니다. 앞서 언급한 대로 기존 D램에 패키징 기술을 더하는 식으로 제조하는 만큼 후공정 시설투자가 필요하죠. 첨단 D램 생산기지인 경기 이천사업장에 HBM 관련 신규 설비를 투입할 것으로 예상됩니다.

삼성전자 역시 HBM 사업에 힘을 싣고 있습니다. SK하이닉스보다 다소 늦을 뿐 전체 시장에서 존재감을 무시할 수 없는 수준이죠. 삼성전자는 5세대 제품을 HBM3E가 아닌 HBM3P로 명명하는데요. 앞서 HBM3P 제품명으로 추정되는 스노우볼트라는 상표를 출원 등록한 바 있습니다. 이후 샤인볼트, 플레임볼트 등 차차세대 HBM 브랜드명까지 등록하면서 확장 의지를 드러냈죠.

리사 수 AMD CEO가 공개한 생성형 AI를 위한 가속기 AMD 인스팅트 MI300

최근 삼성전자는 SK하이닉스와 AMD의 최신 GPU(MI300) 공급업체로 동시 진입하기도 했습니다. 양사는 같은 HBM3이더라도 패키징 등에서 기술 차이가 있는데요. 삼성전자는 TSV를 활용한다는 것 외에는 구체적인 기술을 공개하지 않은 상태입니다. 이 부분은 추후 소개하는 시간을 가져보겠습니다.

향후 엔비디아와 AMD 간 AI 반도체 경쟁이 심화할수록 삼성전자, SK하이닉스의 HBM을 찾는 빈도는 더욱 늘어날 전망입니다. 이에 따라 두 회사의 HBM 대결도 치열해지겠죠. 일련의 흐름 속에서 HBM이 메모리 불황 종식을 앞당길 수 있는 대안으로 기대받고 있다는 사실은 분명합니다.

한편 삼성전자의 경우 HBM과 프로세싱 인 메모리(PIM)을 결합한 HBM-PIM을 업계 최초로 내놓았는데요. 여기서 PIM은 메모리 내부에 연산 작업에 필요한 프로세서 기능을 더한 신개념 제품입니다.

HBM-PIM은 HBM과 프로그래머블 컴퓨팅 유닛(PCU)를 합쳐 메모리 영역에서 연산 처리가 가능해 CPU와 메모리 간 데이터 이동을 줄입니다. 이는 시스템 성능을 올리고 에너지 소비를 감소시켜주죠. 참고로 PCU는 PIM 기술을 구현하기 위해 데이터 연산 작업에 필요한 AI 엔진입니다.