밴티크 “中 딥시크, 엣지·온프레미스 환경서 새로운 기회 될 것”

실시간
뉴스

소프트웨어

밴티크 “中 딥시크, 엣지·온프레미스 환경서 새로운 기회 될 것”

디지털데일리 발행일 2025-02-10 13:18:01

이안나 기자

URL복사

[디지털데일리 이안나기자] 오픈소스 생성형 AI 모델 ‘딥시크(DeepSeek)’가 기업용 소프트웨어 시장에 새로운 기회를 제공할 것으로 전망된다. 특히 기업용 소프트웨어 기업 밴티크는 엣지 컴퓨팅과 온프레미스 환경에서 딥시크 활용 가능성에 주목하고 있다.

밴티크는 생성형 AI와 실시간 데이터 처리 기술을 결합해 기업들 실시간 애플리케이션 개발을 지원하는 실리콘밸리 소재 기술 기업이다. 소프트뱅크와 협력한 도쿄 다케시바 스마트 빌딩 프로젝트를 성공적으로 수행하는 등 디지털 헬스케어, 스마트팩토리, 국방 등 다양한 산업 분야에서 혁신적인 솔루션을 제공하고 있다.

딥시크는 6710억개 파라미터를 보유한 대규모 AI 모델로, 혁신적인 강화학습 방식을 통해 우수한 추론 능력을 확보했다. 주목할 만한 점은 이를 1.5B부터 70B까지 다양한 크기로 압축한 소형 모델들을 제공한다는 것이다. 이는 4GB 램(RAM)의 소규모 컴퓨팅 환경에서도 AI 모델을 구동할 수 있음을 의미한다. 대형 모델은 48GB RAM과 250GB 디스크가 필요한 것에 비해, 소형 모델은 훨씬 적은 자원으로도 운영이 가능하다.

이형근 밴티크 한국 지사장은 “딥시크 강화 학습 방식은 지도 학습을 사용하지 않기 때문에 모델 학습 속도가 빠르고 비용이 절감된다”며 “특정 애플리케이션 도메인에 최적화된 소형 특화 모델을 보다 경제적이고 빠르게 구축할 수 있다”고 설명했다.

딥시크 학습 과정은 크게 두 단계로 구성된다. 첫째는 지시 사항을 더 잘 따르도록 하는 지도 학습 단계로, 사전 정의된 ‘명령-응답 쌍’을 활용한다. 둘째는 GRPO(Group Relative Policy Optimization) 기법을 활용한 강화 학습 단계다. 이를 통해 모델은 추론 능력을 효과적으로 학습하게 된다. 기존 모델들이 주로 지도 학습을 통해 추론 능력을 확보했던 것과 달리, 딥시크는 강화 학습을 활용해 비용을 크게 절감했다는 평가를 받는다.

단 딥시크는 과도한 사용자 정보를 수집한다는 점이 문제로 꼽히며 보안 우려가 제기됐다. 이에 이 지사장은 “딥시크 모델을 클라우드 기반 서비스에서 실행할 경우 데이터가 중국 정부에 노출될 가능성이 있다”면서도 “반면 개인적으로 배포된 모델은 클라우드 연결 없이 운영될 수 있어 보안에 민감한 환경에서도 활용 가능하다”고 전했다.

특히 엣지 컴퓨팅 환경에서 활용 가능성이 높아진다. 헬스케어, 국방, 안전 분야에서는 딥시크 소형 모델이 강력한 기능이 될 수 있다. 클라우드로 데이터를 전송할 필요 없이 데이터를 생성하는 현장에서 직접 분석 및 추론이 가능하기 때문이다. 이미 다른 소형 특화 모델이 존재하지만, 딥시크 접근 방식이 더 강력한 추론 능력을 제공할 가능성이 크다는 게 밴티크 측 설명이다.

MIT 라이선스 기반 오픈소스로 제공되는 딥시크는 특정 라이선스나 사용 제한 없이 즉시 다양한 분산 환경에 배포가 가능하다는 것도 장점이다. 밴티크는 애플리케이션에서 클라우드가 아닌 온프레미스, 엣지 환경에서 활용 가능한 만큼 헬스케어, 국방, 안전 등 산업에서도 실시간 데이터 분석 및 의사결정에 강점을 갖고 있다.

이 지사장은 “현재 생성형 AI 분야에는 막대한 자금이 투자되고 있으며, 모델 성능 개선, 비용 절감, 학습 속도 향상 및 운영 효율성 증대를 위한 연구가 활발히 진행 중”이라며 “딥시크는 수백개 혁신적인 AI 기술 중 하나일 뿐이며 향후 몇 년 동안 더 많은 생성형 AI 모델 발전이 이루어질 것”이라고 전망했다.