[클라우드임팩트2025] 이제응 CNCF 대표, “AI의 미래는 클라우드 네이티브”

실시간
뉴스

클라우드 솔루션

[클라우드임팩트2025] 이제응 CNCF 대표, “AI의 미래는 클라우드 네이티브”

디지털데일리 발행일 2025-03-26 09:00:00

이상일 기자

URL복사

이제웅 CNCF 한국 대표가 25일 서울 서초구 양재동 엘타워에서 열린 클라우드임팩트2025에서 'AI 혁신과 함께하는 클라우드 네이티브 AI 전략'을 주제로 발표하고 있다.

[디지털데일리 이상일기자] “AI와 클라우드 네이티브는 더 이상 분리될 수 없는 관계다. 클라우드 네이티브 인프라는 인공지능의 대중화와 고도화를 동시에 이끌어낼 수 있는 가장 현실적인 전략이기 때문이다”

클라우드 네이티브 컴퓨팅 재단(CNCF)의 이제응 APAC 디렉터(한국 대표)은 25일 양재동 엘타워에서 개최된 [클라우드 임팩트(Cloud Impact) 2025] 콘퍼런스 에서 ‘AI 혁신과 함께하는 클라우드 네이티브 AI 전략(Cloud Native AI, CNAI)’이라는 주제 발표를 통해 클라우드 네이티브 기술이 인공지능의 구현과 확산에서 어떤 역할을 하고 있는지 설명했다.

CNAI는 말 그대로 클라우드 네이티브의 철학과 원칙을 인공지능 개발과 운영 전반에 접목시키는 것을 의미한다. 반복 가능하고 확장 가능한 AI 중심 워크플로우를 만들기 위해 클라우드 인프라의 탄력성과 유연성을 최대한 활용하는 것이다.

이 대표는 “AI의 본질은 반복적 학습과 빠른 배포에 있다. 이를 제대로 수행하기 위해선, 클라우드 네이티브의 접근 방식이 가장 적합하다. CNAI는 단순한 기술 스택을 넘어 AI의 실행 전략이 되어야 한다”고 강조했다.

AI와 클라우드가 만나는 지점에는 분명한 이유가 있다. 우선 클라우드는 항상 가동되는 탄력적 인프라를 제공함으로써 기업, 스타트업, 개발자들이 빠르게 프로토타입을 만들고, 이를 실서비스로 확장하는 데 최적의 환경을 제공한다.

이 대표는 “AI 역시 신속한 프로토타이핑과 대규모 연산 자원이 필요하다. 클라우드는 스토리지, 네트워크, 컴퓨팅 리소스를 유연하게 제공함으로써 이 문제를 자연스럽게 해결한다”라며 클라우드와 AI의 공통적 니즈를 강조했다.

발표에서는 특히 컨테이너 기술의 중요성도 짚었다. AI 모델은 다양한 라이브러리와 환경 설정이 필요하며, 서로 충돌하는 경우도 많다. 이때 컨테이너는 이러한 종속성을 분리하고 독립적으로 운영할 수 있게 해준다.

그는 “AI 모델을 컨테이너화하면 유연성과 확장성이 동시에 확보된다. 여기에 쿠버네티스(Kubernetes)를 이용한 오케스트레이션이 더해지면, 복잡한 모델도 안정적으로 배포하고 관리할 수 있다”고 덧붙였다.

물론 CNAI로의 전환이 쉽기만 한 것은 아니다. 툴링의 유연성 확보와 지속 가능한 AI 구축 방식, 플랫폼 종속성의 최소화, 특히 MLOps와 관련해, 모델 학습 과정에서의 데이터 접근성, 네트워크 병목, 스토리지 I/O 문제 등은 여전히 중요한 도전 과제로 남아 있다.

하지만 이제응 대표는 이러한 문제들을 해결하려는 생태계의 진화가 빠르게 진행되고 있다고 강조했다. 그는 “쿠비플로우(Kubeflow)는 쿠버네티스 기반의 ML 파이프라인 자동화 도구로, AI 개발과 운영의 일관성을 제공한다. 쿠비레이(KubeRay)는 분산 학습과 추론을 위한 워크로드 실행에 적합한 프레임워크로 각광받고 있다”며 또한 오픈 소스 벡터 데이터베이스와 OpenLLMetry와 같은 관찰 도구도 CNAI 구현에 있어 핵심적인 역할을 하고 있다고 밝혔다.

특히 AI 모델도 소프트웨어처럼 다뤄야 하는 시대라는 점을 이제응 대표는 강조했다. 이 대표는 “모델을 컨테이너화하면 WASM(WebAssembly) 바이너리로 번들링이 가능해지며, 서플라이 체인 관점에서 서명, 검증, 데이터 출처 관리가 쉬워진다. 이는 AI 모델의 보안성과 신뢰성을 높이는 데 중요한 포인트"라고 설명했다.