[IT백과] 삼성·SK도 뛰어든 ‘GPUaaS’…신흥 AI 먹거리 될까

실시간
뉴스

e비즈*솔루션

[IT백과] 삼성·SK도 뛰어든 ‘GPUaaS’…신흥 AI 먹거리 될까

디지털데일리 발행일 2024-08-29 08:43:43

권하영 기자

URL복사

정보기술(IT) 영역에 관한 모든 지식을 압축해 풀이합니다. IT산업에 꼭 필요한 용어들을 소개하고, 살펴보면 좋을 쟁점들도 정리합니다. IT가 처음인 입문자라면 혹은 동향을 알고 싶은 전문가라면, 디지털데일리의 ‘IT백과’를 참고하세요. <편집자주>

지난 1월 람다의 산호세 본사에서 유영상 SK텔레콤 대표(왼쪽)와 스티븐 발라반 람다 창업자 겸 최고경영자(CEO)가 양사의 협력 방안을 논의한 뒤 기념촬영하고 있다. [Ⓒ SK텔레콤]

[디지털데일리 권하영기자] 최근 인공지능(AI) 발전과 함께 고성능 연산을 위한 그래픽처리장치(GPU) 수요가 폭발하면서, 새롭게 주목받는 시장이 있다. 바로 ‘GPUaaS’라고 하는 서비스형GPU(GPU as a Service) 시장이다.

국내에는 아직 생소한 개념이지만 해외에선 GPUaaS 시장의 성장 잠재력을 높게 평가하고 있다. 시장조사기관 ‘포천 비즈니스 인사이트’에 따르면 글로벌 GPUaaS 시장은 올해 43억1000만달러(약 5조7720억원)에서 2032년 498억4000만달러(약 66조7457억원)로 성장하며, 연평균 성장률은 35.8%에 달할 것으로 예상된다.

GPUaaS는 쉽게 말해 GPU를 클라우드 서비스로 제공하는 것을 말한다. 대부분의 기업들은 비용과 관리 문제로 GPU 인프라를 온프레미스로 직접 구축하는 것이 어려운데, GPU를 자사 서버나 컴퓨터에 설치하지 않고도 클라우드 환경에서 필요한 리소스만큼만 빌릴 수 있다면 훨씬 효율적인 사용이 가능해진다.

특히 요즘에는 생성형AI 등 AI 기술이 고도화되면서 고성능 연산과 대량 데이터 처리를 위한 GPU 수요가 폭증했고, 가장 대표적인 엔비디아 GPU의 경우 공급이 수요를 따라가지 못해 품귀 현상까지 빚고 있다. 이런 상황에서 엔비디아 같은 선도 기업의 최신 GPU를 안정적으로 공급받을 수 있다는 점도 GPUaaS의 장점이다.

기존 클라우드 인프라가 있는 빅테크들은 이미 다양한 방식으로 GPUaaS를 제공 중이다. 아마존웹서비스(AWS), 마이크로소프트(MS), 구글클라우드, IBM 등은 엔비디아나 자체 개발 GPU를 시간당 혹은 연간 구독형으로 빌려주는 비즈니스모델을 갖고 있다. 일례로 메타는 MS 클라우드 애저에서 구동되는 엔비디아 GPU로 AI를 개발한다.

국내에선 최근 SK텔레콤이 미국 GPUaaS 기업 ‘람다’와 손잡고 오는 12월부터 GPUaaS 사업을 본격화하겠다고 밝혔다. 람다는 엔비디아로부터 최신 GPU를 공급받아 GPUaaS를 제공하는 비즈니스모델로 3억2000만달러(약 4281억원) 투자를 유치해 총 15억달러(약 2조72억원)의 기업가치를 인정받고 있는 AI 기업이다.

SK텔레콤은 람다와 협력해 서울 가산동 SK브로드밴드 데이터센터에 엔비디아 GPU ‘H100’을 배치하며, 람다 GPU 자원을 기반으로 GPUaaS 서비스를 본격화할 예정이다. 국내 GPU 수요가 급등하고 있는 만큼, 3년 내 GPU를 수천대 이상까지 늘리고 엔비디아 최신 GPU 모델인 ‘H200’도 조기 도입을 추진할 생각이다.

앞서 삼성SDS도 엔비디아 GPU 기반 GPUaaS 시장에 뛰어든 바 있다. 지난해부터 꾸준히 엔비디아 GPU 물량을 수급해온 삼성SDS는 얼마 전 올해 2분기 실적을 발표하면서 “고성능컴퓨팅(HPC)과 생성형AI를 위한 구독형 GPU 서비스(GPUaaS) 확대로 클라우드 매출이 꾸준히 증가하고 있다”고 밝히기도 했다.

KT클라우드의 경우 슬라이싱 기술을 통해 고성능 GPU 인프라를 쪼개서 제공하는 식으로 일종의 GPUaaS 같은 서비스를 하고 있다. KT클라우드의 엔비디아 기반 AI 추론 서비스인 ‘AI 서브(AI SERV)’에 슬라이싱 기술을 적용, 기존에 한 장으로 제공되던 GPU 서비스를 5분할 해 0.2장 단위로 공급하는 것이 특징이다.

향후 국내외 GPUaaS 시장은 AI 혁신과 GPU 수요 급증과 맞물려 빠른 속도로 성장이 전망된다. 특히 지금처럼 GPU 몸값이 높아질수록, AI 서비스를 개발하고 싶지만 대규모 인프라 구축이 어렵거나 비싼 GPU를 안정적으로 공급받기 쉽지 않은 스타트업 또는 중소 규모 기업들의 관심이 높아질 것으로 예상된다.

GPUaaS 제공사들 입장에선 AI 트렌드에 맞춰 새로운 구독형 비즈니스를 전개할 기회인 만큼, 국내외 시장에서 갈수록 경쟁이 치열해질 수 있다. 가격뿐만 아니라 고객 맞춤형 서비스로 구독자들을 얼마나 오래 잡아둘 수 있는지, 무엇보다 고품질 GPU 물량을 안정적으로 확보할 수 있는지가 관건이 될 것으로 보인다.