[IT클로즈업] 생성형AI 시대 ‘프라이빗 클라우드’가 재부상하는 이유

실시간
뉴스

e비즈*솔루션

[IT클로즈업] 생성형AI 시대 ‘프라이빗 클라우드’가 재부상하는 이유

디지털데일리 발행일 2025-04-16 08:09:54

권하영 기자

URL복사

[디지털데일리 권하영기자] 기업의 생성형 인공지능(AI) 활용이 본격화되면서, 이들의 클라우드 인프라 전략에도 변화 조짐이 감지된다. 초기에는 퍼블릭 클라우드 중심의 AI 도입을 우선했더라도, 점차 고도화 단계에 접어들면서는 온프레미스 또는 프라이빗 클라우드 환경으로 다시 돌아가는 경우가 적지 않다는 것이다.

이유는 기업들이 AI를 제대로 활용하기 위해 ‘내재화’ 하는 과정에서 퍼블릭 클라우드만으로는 충족하기 어려운 요구사항이 생겨나고 있기 때문이다.

글로벌 IT인프라 솔루션 기업의 한 임원은 “처음에는 퍼블릭 클라우드 환경에서 챗GPT를 위주로 PoC를 진행했다가, 프라이버시 문제에 직면하면서 온프레미스나 프라이빗 클라우드에 대한 니즈를 느끼는 고객사들이 많다”며 “AI가 고도화될수록 그것을 잘 활용하려면 결국 기업 내부 데이터를 넣어야 고품질의 결과를 얻을 수 있는 건데, 범용 퍼블릭 클라우드로는 리스크가 크기 때문”이라고 전했다.

초기에는 퍼블릭 클라우드 환경에서 외부 생성형 AI 서비스를 단순 경험 수준으로 테스트하는 것이 가능할지라도, 도메인별 파인튜닝(미세조정)과 사내 시스템 통합 및 워크플로 연동 등 본격적인 내재화 단계에 접어들면 한계가 뚜렷하다는 지적이다. 업무용 문서나 고객정보 및 계약서 등 민감 데이터를 퍼블릭 클라우드에 올리는 것 자체가 규제·보안 이슈와 직결될 수밖에 없어서다. 실제로도 기업들은 내부 보안 정책상 외부 생성형 AI 호출 자체를 제한하거나 데이터 이전을 차단하는 경우가 대부분이다.

이에 따라 기업들은 보다 통제 가능한 인프라 환경에서 AI를 구축하고자 하는 수요가 커지고 있으며, 자연히 프라이빗 클라우드 또는 온프레미스 기반 전략에 대한 관심이 높아지고 있다. 특히 금융·공공·제조 등 규제 산업군에서 이 같은 흐름이 더 명확하다.

주요 인프라 기업들은 이 같은 수요에 대응해 온프레미스 또는 프라이빗 클라우드 기반의 AI 구축 전략을 적극 강조하고 있다. 델 테크놀로지스는 ‘델 AI 팩토리’를 통해 기업이 자체 데이터센터나 프라이빗 클라우드 환경에서 생성형 AI 모델을 구축하고 운영할 수 있도록 제공하고 있으며, HPE는 ‘HPE 프라이빗 클라우드 AI’를 통해 AI 학습·추론에 필요한 고성능 인프라를 서비스형으로 공급하고 있다. IBM은 ‘왓슨 엑스(watsonx)’ 플랫폼을 설치형으로 제공해 프라이빗형 AI 운영을 지원한다.

최근에는 퍼블릭 클라우드가 주축인 클라우드서비스제공사(CSP)들도 프라이빗 클라우드 전략을 강화하는 추세가 엿보인다. 대체로 퍼블릭 클라우드의 장점을 살리면서 프라이빗 클라우드 형태로 구축하는 하이브리드 방식에 주안점을 둔다.

예컨대 네이버클라우드의 ‘뉴로클라우드’는 고객 데이터센터 내에 클라우드 인프라를 설치해 생성형 AI를 학습시키는 방식으로 프라이빗 환경을 구현하는 동시에 자사 생성형 AI 서비스인 ‘하이퍼클로바X’를 연동하는 형태로 완전관리형 하이브리드 클라우드를 표방한다.

이는 최근 한국수력원자력·한국은행 등 공공·금융 고객을 확보하며 네이버클라우드의 새로운 성장동력으로도 부상했다. NHN클라우드도 고객 데이터센터에 NHN클라우드의 인프라와 서비스를 직접 구현할 수 있도록 지원하는 완전관리형 프라이빗 클라우드 서비스로서 ‘NHN 클라우드 스테이션’을 새롭게 출시했다.

업계 한 관계자는 “이 같은 흐름은 기업들이 단순히 레거시로 회귀하고 있다는 의미로 해석하기보다는, AI가 고도화되면서 기업들의 클라우드 전략이 점점 복잡해지고 다각화되고 있는 것으로 봐야 한다”며 “온프레미스부터 퍼블릭, 프라이빗 등 다양한 환경을 조합해서 AI 워크로드에 어떻게 최적화할지 고민이 필요한 것”이라고 말했다.