AI 영역 확장…MS, 소형언어모델 ‘파이 3.5’ 시리즈 공개

실시간
뉴스

AI 영역 확장…MS, 소형언어모델 ‘파이 3.5’ 시리즈 공개

디지털데일리 발행일 2024-08-27 17:10:40

이안나 기자

URL복사

[사진=마이크로소프트 블로그]

[디지털데일리 이안나기자] 마이크로소프트(MS)가 인공지능(AI) 주도권을 쥐기 위해 거대언어모델(LLM)을 넘어 소형언어모델(SLM)까지 시장 진출을 확장한다.

MS는 지난 4월 출시된 SLM 모델 파이3(Phi-3) 최신 모델인 파이3.5(Phi-3.5)시리즈를 27일 공개했다. 이번에 새롭게 공개된 제품은 파이3.5 미니(Phi-3.5-mini), 파이3.5 비전(Phi-3.5-vision), 파이3.5(Phi-3.5-MoE) 모델로 이뤄져 있다.

파이3.5 미니는 38억개 파라미터로 구성된 모델이다. 긴 문서 요약과 대화 및 정보 검색 작업에 탁월한 성능을 발휘한다. 12만8000개 컨텍스트 길이를 지원하며, 영어를 포함한 다양한 언어에서 고성능을 유지한다. 특히 아랍어와 네덜란드어, 핀란드어 등 언어에서 성능이 크게 개선됐다.

파이3.5 비전은 멀티 프레임 이미지 이해와 추론 능력을 강화한 모델이다. 이미지와 비디오 데이터 처리에서 뛰어난 성능을 발휘한다. 다양한 멀티미디어 벤치마크에서 우수 성적을 거뒀다. 이 모델은 슬라이드 요약, 비디오 요약, 이미지 스토리텔링 등 작업에서 높은 정확도와 효율성을 보여준다는 게 MS 측 설명이다.

파이3.5 MoE는 전문가 혼합 모델이다. 총 420억개 파라미터 중 66억개 활성 파라미터를 사용한다. 이 모델은 긴 컨텍스트 처리와 20개 이상 다국어 지원에서 강력한 성능을 제공하며, 비슷한 크기 모델들보다 효율적 성과를 보인다. 강력한 안전 조치와 합성 명령어를 결합해 사용ㅇ자가 안전하고 신뢰할 수 있는 AI를 구축할 수 있도록 돕는다.

MS는 “파이3 모델 도입으로 애저(Azure) 고객들은 고품질 모델에 대한 선택의 폭이 넓어져, 생성형 AI 애플리케이션을 설계하고 구축할 때 더욱 실용적인 옵션을 갖게 됐다”고 전했다.