[테크다이브] AI 성장에 컴퓨팅 부담 가중…CXL 기술로 한계 극복

실시간
뉴스

반도체

[테크다이브] AI 성장에 컴퓨팅 부담 가중…CXL 기술로 한계 극복

디지털데일리 발행일 2023-12-27 16:35:48

배태용 기자

URL복사

[디지털데일리 배태용 기자] AI는 제조, 의료, 금융, 유통 등 다양한 산업군에서 혁신을 이끄는 AI(인공지능)는 방대한 양의 데이터를 학습하고, 패턴을 인식하고, 예측하면서 동작합니다. 이러한 AI를 구동하기 위해서는 많은 양의 데이터를 빠르게 처리할 수 있는 컴퓨팅 환경이 필요합니다.

컴퓨팅 환경이 개선되기 위해선 CPU(중앙 처리 장치), GPU(그래픽 처리 장치), 메모리 등의 하드웨어의 성능과 효율성이 중요하다는 것은 알고 있을 겁니다. 그러나 방대한 양의 데이터를 처리하는 생성형 AI, 자율 주행 등은 일반적인 컴퓨팅 환경에선 감당하기 어렵습니다.

방대한 양의 정보를 동시다발적으로 처리해야 하기 때문이죠. 생성형 AI를 구현하기 위해선 최상의 컴퓨팅 환경이 구축 돼야합니다.

컴퓨팅의 구성요소인 CPU와 GPU는 각각의 장치에 할당된 메모리를 사용하지요. 문제는 서로 CPU와 GPU는 다른 통신 규약을 가지고 있다는 것인데요. 통신 규약은 두 장치가 서로 통신할 때 사용하는 약속으로, 서로 다른 통신 규약이 사용될 경우, 직접 통신은 불가능합니다.

통신을 위해선 중간에서 데이터를 전달해 주는 장치가 필요한데요. 이러한 중간 장치를 '버퍼'라고 합니다. 버퍼는 CPU와 GPU가 모두 접근할 수 있는 메모리 공간을 제공합니다. CPU는 데이터를 버퍼에 저장하고, GPU는 버퍼에서 데이터를 읽어옵니다.

문제는 중간 장치를 거치기 때문에 CPU와 GPU 간의 데이터 이동이 느려지는, 병목 현상이 발생하는 것입니다. AI 구동을 위해선 많은 양의 데이터를 빠르게 처리해야 한다고 설명해 드렸지요? 병목 현상은 AI 시스템 구현의 방해 요소입니다.

이러한 문제를 해결하기 위해 새롭게 등장한 것이 CXL(Compute Express Link)입니다. CXL은 CPU와 GPU, 메모리, 스토리지 등 다양한 장치 간에 고속으로 데이터를 전송할 수 있는 인터페이스입니다.

CXL은 서로 다른 통신 규약을 사용하는 장치들도 직접 통신할 수 있도록 해 버퍼의 역할을 대체할 수 있습니다. 처리해야 할 데이터양이 방대한 컴퓨팅 환경의 부담을 덜어내는 차세대 기술인 것이죠.

CXL는 직렬 구조 PCI 익스프레스(PCIe) 인터페이스를 기반으로 만들어집니다. PCIe는 기존 SATA(Serial Advanced Technology Attachment) 전송 속도의 성능 한계를 극복한 고속 인터페이스 규격입니다. 이 인터페이스는 컴퓨터의 저장장치와 메인보드를 연결하는 매개체라고 생각하면 됩니다. 인터페이스는 컴퓨터의 여러 부품이 서로 통신할 수 있도록 하는 역할을 합니다.

쉽게 이해하기 위해선 도로를 연상하면 됩니다. 과거 사용됐던 규격인 SATA는 병렬 구조로, 도로가 여러 개 있다고 연상하면 됩니다. 따라서 많은 차(데이터)들이 동시에 도로를 이용할 수 있지만, 도로가 좁기 때문에 빨리 달리지는 못합니다.

PCle는 직렬 구조이기 때문에 큰 도로가 하나 있는 고속도로라 생각하면 됩니다. 차들이 동시에 도로를 이용할 수는 없지만, 도로가 넓기 때문에 차들이 빨리 달릴 수 있습니다. 예를 들어, SATA로 연결된 저장장치에서 파일을 복사하면, 도로가 좁기 때문에 파일이 복사되는 속도가 느립니다. 반면에 PCIe로 연결된 저장장치에서 파일을 복사하면, 도로가 넓기 때문에 파일이 복사되는 속도가 빠릅니다.

CXL의 다른 장점은 용량 확장도 획기적으로 가능하다는 것입니다. 외장형 저장 장치인 SSD(Solid State Drive)와 유사한 형태인 'CXL 메모리 익스팬더’는 실제로 SSD를 꽂는 자리에 장착 시 D램 용량을 확장할 수 있습니다. 기존 서버 구조를 통째로 바꾸거나 교체하지 않고도 인터페이스 개선만으로 시스템 내 D램 용량을 늘릴 수 있는 셈이죠.

이러한 장점들 때문에 CXL은 AI 시대에 필수적인 컴퓨팅 환경을 제공하는 차세대 인터페이스로 주목받고 있습니다. 시장 정보 업체 욜그룹에 따르면 세계 CXL 시장은 2028년 150억 달러(약 20조원) 규모가 될 것으로 전망됩니다. 이 중 80%인 120억 달러는 CXL D램 시장인데요. 2027년 이후에는 업계의 모든 CPU가 CXL과 연동이 되게끔 설계, CXL 전용 D램이 더욱 주목받을 것이라고 전망됩니다.

우리나라의 삼성전자와 SK하이닉스도 시장 선점에 뛰어들고 있는데요. 삼성전자는 올해 5월 128GB(기가바이트) CXL 2.0 D램을 새롭게 선보이고 연내 양산을 공식적으로 발표했습니다. 이에 이어 삼성전자는 업계 최초로 엔터프라이즈 리눅스 기업 레드햇(Red Hat)과 CXL 메모리 동작 검증에도 성공했습니다.

SK하이닉스는 지난해 DDR5 D램을 활용한 CXL 메모리를 개발했습니다. SK하이닉스는 서버 내 필요한 메모리를 한곳에 모아서 관리하는 풀링 시스템 '나이아가라' 시스템을 또 공개했습니다. 또한 CXL 메모리 전용 개발 프로그램인 'HMSDK 2.0' 버전을 오픈소스로 배포하겠다는 계획도 발표하는 등 CXL 시장 선점에 열을 올리고 있습니다.