리벨리온-스퀴즈비츠, NPU 최적화된 소형언어모델 기술 개발 협력

실시간
뉴스

반도체

리벨리온-스퀴즈비츠, NPU 최적화된 소형언어모델 기술 개발 협력

디지털데일리 발행일 2024-05-29 10:48:51

고성현 기자

URL복사

[디지털데일리 고성현 기자] 리벨리온(대표 박성현)이 AI모델 경량화 전문 스타트업 스퀴즈비츠와 신경망처리장치(NPU)에 최적화된 소형언어모델(SLM) 등 생성형AI모델 경량화 기술 협력을 위한 전략적 파트너십을 체결했다고 29일 밝혔다.

스퀴즈비츠는 정확도 손실을 최소화하면서도 AI모델의 계산량을 압축할 수 있는 경량화 전문성을 가지고 있다. 리벨리온은 국내에선 최초로 소형언어모델 가속이 가능한 NPU를 양산한다.

양사는 이번 파트너십을 기반으로 각사가 지닌 역량을 발휘해 다양한 소형언어모델을 리벨리온의 NPU에 최적화, 경량화하는데 협력할 계획이다.

이를 계기로 스퀴즈비츠는 현재 지원 중인 엔비디아 GPU 뿐 아니라 리벨리온의 NPU향으로 생성형AI 모델을 경량화할 수 있는 기술적 기반을 확보하게 됐다. 리벨리온 역시 자사 하드웨어에 최적화된 경량화 언어모델을 활용해 생성형AI용 NPU의 판매 활로를 확장했다.

이번 파트너십은 생성형AI에 특화된 하드웨어를 기반으로 경량화 소프트웨어 기술을 개발하는 국내 최초 사례다. 양사는 소형언어모델 경량화 분야에 선도적인 역할을 수행해 지속가능한 생성형AI 서비스 제공 환경을 구축하고, 나아가 국내 AI 생태계 발전에 기여한다는 목표다.

양사는 최근 생성형AI 가동에 소요되는 비용과 전력을 최소화하기 위한 최신 기술 트렌드도 반영한다. 최근 제한된 컴퓨팅 자원으로도 효율적으로 활용할 수 있는 소형언어모델이 각광받고 있으며, AI모델을 압축해 하드웨어 연산의 부담을 더는 경량화 기술 또한 크게 주목받고 있다. AI추론에 특화된 NPU 역시 전력소모와 구축비용을 대폭 줄이는 역할을 수행할 것으로 기대된다.

김형준 스퀴즈비츠 대표는 "리벨리온과의 협력을 통해 생성형 AI 기반 서비스 기업 고객들에게 더욱 다양한 하드웨어 옵션을 제공할 수 있게 됐다"며 "다양성을 바탕으로 각각의 서비스에 가장 최적화된 하드웨어와 경량화 기술을 제공함으로써 기업들이 더 효율적으로 AI를 사용할 수 있게 지원할 것"이라고 말했다.

박성현 리벨리온 대표는 "NPU와 AI경량화 기술은 지속가능하고 비용효율적인 AI 비즈니스를 위한 필수요소로 자리잡고 있다"며 "이번 파트너십으로 사용자들에게 리벨리온의 NPU 상에서 경량화된 생성형AI 모델을 활용해 부담없고 손쉽게 AI를 도입할 수 있는 기회를 제공할 것으로 기대한다"고 밝혔다.