[데이터센터 모멘텀]④ "숨 막히는 비용"...한숨 깊어지는 AI 스타트업

실시간
뉴스

일반

[데이터센터 모멘텀]④ "숨 막히는 비용"...한숨 깊어지는 AI 스타트업

디지털데일리 발행일 2024-06-14 06:31:00

이건한 기자

URL복사

21세기 디지털 경제의 핵심 인프라인 데이터센터 유치를 위한 글로벌 경쟁이 치열해지고 있다. 일본 등 일부 국가들은 정부의 적극적인 지원으로 데이터센터 유치에 성공하고 있는 반면, 한국은 규제와 인허가 절차의 복잡성 등으로 어려움을 겪고 있다는 지적이 나온다. <디지털데일리>는 한국 데이터센터 산업의 도전 과제와 해결 방안을 탐구하고, 글로벌 데이터센터 유치 경쟁에서 다시 경쟁력을 회복할 수 있는 전략을 모색해본다.<편집자>

[디지털데일리 이건한 기자] 전세계가 '인공지능(AI) 패권전쟁' 중이다. 그러나 한국 AI 경쟁력의 미래를 떠받칠 AI 스타트업들의 한숨은 깊어져 가고 있다. 기술 개발에 온 힘을 쏟아부어도 모자랄 판에 발판 격인 AI 인프라 비용 부담은 빠르게 커져 가는 까닭이다. 정부가 국내 AI 산업 지원을 위해 더 많은 AI 데이터센터 확보와 함께 실질적인 접근성을 보장하는 비용 지원과 규제 완화에도 더 힘을 써야 한다는 목소리가 나오는 이유다.

업계에 따르면 현재 국내에서 AI 기술 및 서비스 개발에 집중하고 있는 기업은 최소 100개 이상에 달한다. 이 가운데 대부분은 중소 스타트업이다. 하지만 규모와 별개로 뛰어난 기술력과 서비스 잠재력을 인정받는 곳이 적지 않다. 실제로 창업진이 유수의 빅테크 기업 출신이거나 풍부한 연구 경험을 보유한 인재인 경우도 허다하다. 그만큼 그들에게 우선적으로 필요한 건 기술 지원이 아닌 자신들의 경쟁력을 대외에 각인할 기회, 연구개발을 지속하며 버틸 수 있는 자금이다.

그러나 AI 모델 학습 및 서비스에 필수적인 고성능 GPU(그래픽처리장치)와 데이터센터 비용의 가파른 상승세는 현재 이들의 생존을 가장 본질적으로 위협하는 요소로 꼽힌다.

AI 기업의 기술 개발 및 서비스 방식은 크게 2가지다. 하나는 자체 컴퓨팅 인프라를 구축하는 '온프레미스(On-premise)' 방식이다. 또 하나는 데이터센터의 클라우드 컴퓨팅 인프라를 대여하는 방식이다. 특히 AI는 기술 특성상 방대한 규모의 데이터 학습이 반복되며 연산 과정도 복잡해 기존 디지털 기술들보다 고성능 컴퓨팅 환경이 요구된다.

문제는 이에 필요한 비용이 말 그대로 '숨 막히는' 수준인 점. 최근 온프레미스 환경 구축에 필요한 AI 특화 GPU는 개당 가격이 수천만원에 달해 충분한 수량을 갖추기 어렵다. 구매 경쟁도 세계적으로 치열해 확보 자체도 어렵다. 그럼에도 AI 기업들은 대규모 투자를 유치하면 상당수 자금을 GPU 구매 등에 할애한다는 점은 업계의 공공연한 비밀이다.

이때 AI 가속 장비를 전문적으로 갖춘 AI 데이터센터는 기업이 AI 인프라에 제때 접근하고 활용하기 위한 또 하나의 대안이다. 하지만 이 또한 녹록지 않다. 고가의 장비가 탑재되는 AI 데이터센터는 건설 비용이 기존 데이터센터 대비 수배에 달하며 막대한 전력 사용량으로 인한 유지 및 서비스 비용이 훨씬 높은 것으로 알려져 있기 때문이다.

게다가 아직 국내에선 접근성도 높지 않은 편이다. 이와 관련해 <디지털데일리>가 복수의 AI 스타트업 의견을 취합한 결과 대부분 '국내 AI 데이터센터 인프라 접근성이나 신규 유치 수준은 부족한 편'이라고 답했다. 더불어 '정부의 실질적인 인프라 비용 지원도 절실한 상황'이라고 답했다.

A 기업은 "챗GPT 등 주요 API 기반 서비스 수요가 가파르게 상승 중인 것과 비교하면 한국은 아직 리전(데이터센터의 지역적 단위) 활성화가 잘 이뤄져 있지 않은 편"이라고 답했다. B 기업은 "만약 국내 클라우드 회사나 AICA(인공지능산업융합사업단) 등에서 고성능 CPU를 충분히 구비하고 국내 AI 기업들에게 경쟁력 있는 가격으로 공급해준다면 숨통이 트일 것 같다"는 의견을 냈다.

AI 스타트업들은 국내에 건설되는 AI 데이터센터를 선제적으로 이용할 의사는 충분하단 입장이다. 특히 LLM 등 AI 모델을 주로 개발하거나 B2C(기업·소비자거래) 서비스를 제공하는 기업들은 안정적인 서빙 환경에 특화된 AI 데이터센터가 도입되면 안정적인 자원 수급 및 활용을 통한 사업 안정성 확보에 큰 도움이 될 것으로 기대하고 있다.

이들은 메타의 '라마(LLaMA)' 등 빅테크가 공개하는 AI 모델에도 촉각을 곤두세우고 있다. 이때 AI 데이터센터의 유무는 빅테크 AI 모델을 활용해 전개할 수 있는 다양한 AI 서비스의 프로토타입 개발과 상용 서비스 제공의 초석이 된다는 점에서 중요도가 더욱 높게 평가되고 있다.

그러나 기대에 앞서 현실적인 걱정을 앞세울 수밖에 없는 점은 뼈아프다. B 기업은 "만약 국내 AI 데이터센터의 요금도 다른 해외 경쟁사들보다 비싸면 높은 지연시간과 불안정성을 각오하더라도 해외 자원을 수급하는 편이 더 나을 수 있다"고 말했다. C 기업도 "AI 데이터센터가 도입되면 우선 정부가 어떤 지원을 제공하는지 추이를 살피면서 이용의 자유도를 판단해 대응할 계획"이라 말하기도 했다.

D 기업은 "AI 모델 개발에 필수적인 GPU가 턱없이 부족하고 가격도 대단히 비싼 현실에 많은 기업이 허들을 느끼는 중"이라며 "정부의 AI 투자가 이처럼 절대적으로 부족한 영역에 집중되길 바라는 이유"라고 말했다. 더불어 "인프라는 다다익선(多多益善)"이라며 국내 클라우드 외에 더 많은 글로벌 빅테크 데이터센터 유치에도 정부가 힘을 실어달라는 입장을 전했다.

나아가 데이터센터 운영에 필요한 규제를 완화하고 접근 절차를 간소화할 필요가 있다고도 제언했다. 실제로 앞서 [데이터센터 모멘텀]②규제에 가로막힌 韓…빅테크 투자 유치는 '그림의 떡'에서도 관련 내용이 언급된 바 있다. 한국은 다른 아시아 국가들과 달리 오히려 데이터센터 관련 규제를 더하며 유치 경쟁력이 감소하고 있는 현실이다. 이는 국내 AI 기업들이 바라는 현실과는 정반대다.

이 밖에도 기업들은 데이터 보안 측면에 대해서도 우려를 표했다. 데이터센터의 클라우드 환경은 독립적 컴퓨팅 환경인 온프레미스 대비 상대적으로 보안에 취약할 수밖에 없다. 이를 보완하기 위한 정책 또한 중요한 문제로 거론된 이유다.