[인더AI] GPU가 지배한 국가, 한국의 AI 딜레마

[디지털데일리 김문기 기자] 정부와 주요 대기업이 엔비디아와 손잡고 26만 장 규모의 GPU를 도입하기로 했다. AI 시대를 선도하기 위한 ‘국가적 투자’이자, 세계적 경쟁에서 밀리지 않기 위함이다. 다만, 불명확한 계약 이면과 기술 주권과 관련한 우려도 상존한다.

산업통상자원부와 과학기술정보통신부는 지난 10월 31일 엔비디아와 협력해 ‘국가 AI 인프라 고도화 프로젝트’를 추진한다고 공식 발표했다. 정부와 민간부문이 엔비디아로부터 총 26만장의 GPU를 받기로 했다. AI 연구, 대형 언어모델, 자율주행, 로보틱스, 바이오 연산 등 모든 산업군이 필요로 하는 고성능 컴퓨팅 인프라를 ‘국가 단위’로 확보할 수 있게 된 셈이다.

이는 정부와 민간이 함께 GPU 클러스터를 구축하고, 이를 공공기관과 기업이 공동으로 활용하는 구조다. 단순한 장비 구매가 아니라, GPU를 ‘국가 자산’으로 관리하며 일정 용량을 개방형 클라우드처럼 임대·공유하는 모델로 추정된다.

민간 기업들의 참여도 구체적이다. 삼성전자는 GPU와 자사 HBM 메모리를 결합한 AI 메모리 서버 플랫폼 실증 사업을 추진한다. HBM3E를 GPU와 직접 통합해 냉각 효율을 높이고 향후 자사 데이터센터에서 자체 AI 학습에 활용할 계획이다.

SK그룹은 SK하이닉스의 메모리 기술, SK텔레콤의 클라우드 인프라, SK C&C의 운영 역량을 묶어 ‘AI 반도체 클러스터’를 구축한다. 네이버는 자사 초거대 언어모델 ‘하이퍼클로바X’를 고도화하기 위해 GPU 약 6만 장 규모의 클러스터를 직접 운영한다.

현대자동차그룹은 자율주행·로보틱스·스마트팩토리 부문에 GPU를 적용하고, 해외 연구소와 연결된 AI 연산망을 확충 중이다. LG그룹은 AI 연구원과 LG CNS를 중심으로 멀티모달 AI 학습 환경을 구축하며, 제조·영상·헬스케어 데이터를 GPU로 처리하는 자체 플랫폼을 준비하고 있다.

이처럼 정부와 민간이 한목소리로 GPU 확보에 나서면서, 한국은 세계에서 손꼽히는 AI 인프라 보유국으로 부상했다.

문제는 이번 발표에 대한 구체적인 내용이 아직 공식화되지 않았다는 것. ▲공급시기 ▲가격 ▲계약방식 및 조건 ▲공급 모델 등 추정은 있으나 확정이 없다. 몇년 또는 순차공급, 가격에 대한 의문, 판매 형태나 서비스 및 유지보수 조건, 소프트웨어 포함여부나 엔비디아가 보유한 소위 블랙웰, 블랙웰 울트라, 향후를 기약하고 있는 루빈 등 공급되는 모델도 대부분 추정에 불과하다.

◆ 공급 독점화에 따른 기술종속 우려

업계는 엔비디아의 GPU는 단순한 하드웨어로 볼 수 없다는 설명이다. 그 위에서 작동하는 CUDA 프레임워크와 드라이버, 최적화 툴체인이 함께 움직이기 때문. GPU를 도입하는 순간, 데이터센터의 설계 구조부터 AI 학습 코드, 모델 배포 시스템까지 모두 엔비디아 표준에 맞춰 재편된다. GPU는 교체할 수 있어도, 코드와 사람은 바꾸기 어렵다는 것과 마찬가지다.

게다가 이 종속 구조가 시간이 지날수록 강화된다는 점이다. 엔비디아는 GPU와 함께 CUDA 라이브러리를 묶어 제공하고 주요 AI 프레임워크(PyTorch, TensorFlow, JAX 등)에 CUDA 최적화 기능을 내장했다. 결과적으로 GPU 시장의 90% 이상이 CUDA 기반으로 돌아가고 있다. 한 번 이 생태계 안으로 들어가면, 다른 칩으로의 전환은 이론상 가능하지만 현실적으로는 막대한 비용을 들 수 있다.

실제 연구 결과에서도 그 한계가 드러난다. 지난 2023년 CUDA에서 oneAPI로 수치적 적분 코드 이식: 사례 연구(Porting numerical integration codes from CUDA to oneAPI: a case study) 논문에 따르면 CUDA 기반 코드를 인텔의 원API로 이식하는 과정에서 성능이 최대 10% 저하되고 개발자가 코드 구조를 다시 설계하는 데 평균 6개월이 걸렸다고 적시했다.

이건 단순히 효율의 문제라기보다는 GPU를 다른 칩으로 바꾸는 순간 그 위에서 쌓아온 모든 코드 자산이 무용지물이 될 수 있다는 의미다. 일부 공공 연구기관도 CUDA 중심 워크로드를 AMD나 자체 NPU로 이전하려다 소프트웨어 호환성 문제로 실증이 무산된 적이 있다고 전해지기도 했다.

아울러, 외신 블룸버그에 따르면 지난 4월 IPO를 추진한 코워위브(CoreWeave)가 모든 인프라가 엔비디아 GPU 위에서 구동된다고 발표하자 금융시장 분석가들이 자산 감가·업그레이드 부담 증가, 조달 단일화 리스크가 우려된다고 경고하기도 했다.

지난 3월 ACM이 게재한 ‘SCALE: CUDA 코드의 타사 실행 프레임워크’에 따르면 엔비디아의 이런 구조를 '하드웨어보다 깊은 소프트웨어 종속'이라 정의했다. CUDA가 사실상 표준이 되면서, 다른 칩 제조사나 연구기관이 동일한 코드를 실행하기 어려운 구조가 고착됐다는 지적이다.

◆ 특정 기업 종속, 말 한마디에 설왕설래 공급망 리스크

소프트웨어 의존 외에도 공급망 리스크도 우려된다. 지난 7월 중국 정부는 엔비디아의 H20 GPU에 보안 우려를 제기하며 일부 기업의 사용을 중단시켰다. 해당 칩은 중국 내 데이터센터에서 AI 학습용으로 광범위하게 사용되던 모델이었다. 정책이 변경되자 수십 개 기업이 연산 클러스터를 멈추고 대체 장비 확보에 나섰다. AI 학습이 수개월간 중단되면서 일부 기업은 데이터 손실까지 겪었다. 이 사건은 한 국가의 기술 인프라가 특정 벤더에 얼마나 깊이 의존하고 있었는지를 드러낸 상징적 사례로 기록됐다.

우리나라 역시도 GPU의 조달, 유지, 업데이트 주기가 엔비디아의 로드맵에 종속될 우려가 있다. 새로운 GPU가 출시될 때마다 기존 모델은 몇 년 내에 드라이버 지원이 중단되고 소프트웨어 최적화도 멈춘다. 데이터센터 입장에서는 선택지가 없다. 업그레이드를 하든지, 구형 하드웨어 위에서 성능 저하를 감수하든지 둘 중 하나다. 즉, GPU를 빌려오는 구조가 아니라 GPU의 생애주기를 함께 감내하는 구조다.

GPU 공급의 대부분이 특정 기업에 집중될 경우, 기술적 종속은 피하기 어렵다는 사례는 지난 9월 MIT테크놀로지 리뷰를 통해 '플랫폼 락인(platform lock-in)의 전형적인 사례'로 꼽혔다. 하드웨어 업그레이드 주기가 짧아질수록, 고객은 공급자의 리듬에 종속될 수밖에 없다는 것.

런던정치경제대학(LSE) 기술정책센터 역시도 보고서를 통해 AI 인프라의 경쟁력은 단일 칩의 성능이 아니라 플랫폼 독립성에 있다고 분석했다. 하드웨어 성능이 아무리 좋아도, 소프트웨어와 인력이 한 기업의 생태계에 묶여 있으면 국가 단위의 기술 주권은 약화될 수밖에 없다는 의미다.

물론 이같은 우려를 인식한 정부와 산업계는 최근 AI 반도체 국산화와 NPU 실증사업을 서두르고 있다. 산업통상자원부는 올해 예산안에서 AI 반도체 관련 항목을 전년 대비 35% 확대했고 리벨리온과 퓨리오사AI 같은 스타트업이 시제품을 공개했다.

하지만 범용성·소프트웨어 생태계·대량생산 면에서는 여전히 격차가 크다. 시장조사업체 카운터포인트리서치가 지난 4일 발간한 AI360 보고서에서는 "한국은 하드웨어 조달 능력은 세계 상위권이지만 AI 소프트웨어 프레임워크 의존도는 90% 이상이 CUDA 기반"이라고 분석했다.

최근 미국 트럼프 대통령의 엔비디아 블랙웰 공급 제한 관련한 설왕설래에도 시장의 영향이 컸다는게 이같은 우려를 방증한다.

◆ 인프라·생태계 준비 철저해야

더 근본적인 문제는 의존에 따른 피로도 상승이다. GPU 확보 경쟁이 거세질수록 전력, 냉각, 데이터센터 자원은 한계에 다다른다. 이에 따른 대비가 돼야 한다. 또한 생태계 역시도 철저한 준비가 필요하다.

국제에너지기구(IEA)는 지난 9월 보고서에서 “AI 데이터센터 전력 수요는 2027년까지 두 배 이상 증가할 것”이라 경고했다. GPU 확보가 곧 혁신을 의미하지는 않는다. 인프라가 감당하지 못하면 AI 산업 전체가 역으로 발목을 잡힐 수 있다.

지난 10월 스탠퍼드대에서 발표된 HAI 보고서에 따르면 “AI 칩 경쟁은 반도체가 아니라 표준화 전쟁이며, 소프트웨어 개발자 생태계를 가진 쪽이 승리한다”라며, 엔비디아가 GPU를 통해 만든 것은 칩이 아니라 사실상 표준이이라는 분석이다. 우리나라 역시도 GPU 공급뿐만 아니라 그 위에 자국형 플랫폼과 인력, 운영체계를 구축해야 한다고 해석할 수 있다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지