[디지털데일리 이종현기자] 알리바바클라우드는 자체 개발한 대규모언어모델(LLM) ‘통이치엔원(Tongyi Qianwen)’의 720억개 매개변수(파라미터) 버전 ‘큐원-72B(Qwen-72B)’와 18억개 매개변수 버전 ‘큐원-1.8B’, 오디오 이해 모델 ‘큐원-오디오’ 등을 인공지능(AI) 플랫폼 허깅페이스와 자사 AI 모델 커뮤니티 ‘모델스코프’에 공개했다고 5일 밝혔다.
알리바바클라우드는 현재까지 18억, 70억, 140억, 720억 매개변수까지 다양한 크기의 LLM과 오디오 및 비주얼 판독 기능을 갖춘 멀티모달 LLM을 개발했다.
징런 저우(Jingren Zhou) 알리바바 클라우드 최고기술책임자(CTO)는 “오픈소스 생태계를 구축하는 것은 LLM 및 AI 애플리케이션 개발에 매우 핵심적인 일이다. 알리바바 클라우드는 가장 개방적인 클라우드로서 모든 사람이 생성형 AI 역량을 활용할 수 있도록 하는 것을 목표로 한다”며 “이러한 목표를 달성하기 위해 자사의 최첨단 기술을 공유하고 파트너들과 함께 오픈소스 커뮤니티의 발전을 촉진해 나갈 것”이라고 말했다.
알리바바클라우드에 따르면 큐원-72B는 3조개 이상의 토큰으로 사전 학습됐다. 주요 오픈소스 모델들을 10개 벤치마크 부문에서 능가한다고 강조했다. 대표적으로 앞선 벤치마크 부문은 대규모 다중작업 언어이해(MMLU), 코드 개발 역량 테스트인 휴먼이발(HumanEval) 및 수학 문제를 푸는 GSM8K 등이다.
큐원-72B는 역할극인 롤 플레이, LLM이 특정 역할이나 페르소나를 취해 맥락에 보다 맞는 응답을 생성하는 능력을 드러내는 언어 스타일 이전(Language style transfer) 등 다양하고 복잡한 작업을 처리하는 데 높은 성능을 보인다. 이러한 기능은 개인화된 챗봇과 같은 AI 애플리케이션(앱)에서 유용하게 사용될 수 있다고 전했다.
기업과 연구기관들은 큐원-72B 모델을 연구 목적으로 활용 시 코드, 모델 가중치 및 도큐멘테이션(설명서)를 무료로 활용할 수 있다. 상업적 용도의 경우, 월간 활성 사용자(MAU) 수가 1억명 미만인 기업에 한해서 무료로 사용할 수 있다.
또 알리바바클라우드는 에지(Edge)에서 실행할 수 있는 18억개의 파라미터로 구성된 LLM 큐원-1.8B도 오픈소스화했다. 경량 버전인 큐원-1.8B는 컴퓨터 리소스가 제한된 휴대폰과 같은 엔드 장치에서 추론을 가능하게 한다. 작은 규모의 LLM 모델은 컴퓨팅 리소스 요구사항이 적어 비용 효율적이며 배포가 용이한 대안을 찾는 경우 유용하다. 큐원-1.8B는 현재 연구 목적으로만 활용 가능하다.
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
“시청자 보호 위해 광고규제? 리터러시 능력 무시하는 것”
2024-11-10 12:28:04[DD 주간브리핑] 데이터센터 활성화 및 효율성 모색 자리 마련…역대 최대 지스타도 주목
2024-11-10 12:27:13[OTT레이더] 다시 만난 지창욱·비비…디즈니+, '강남 비-사이드'
2024-11-10 12:18:24LGU+, AX 본격화…"익시젠 경쟁력, B2B·B2C로 확대"(종합)
2024-11-08 16:55:58[LGU+컨콜] "영업익 감소, 수익성 확대·변동비 축소로 개선"
2024-11-08 16:17:15[넥스트 스테이지] ① 글로벌 도약 새 출발, 다양성으로 채운 '20살' 지스타
2024-11-10 12:19:01“징크스가 돌아왔다”…신세계百, 넷플릭스 ‘아케인 시즌2’ 팝업 개최
2024-11-10 12:17:03컴투스 송병준 의장, ‘SWC2024’ 월드 파이널 현장 참석
2024-11-09 21:25:27‘SWC2024’ 월드 파이널, 일본 도쿄서 성황리 개막… 올해의 챔피언 가린다
2024-11-09 20:05:01‘니케’ 연이은 역주행… 시프트업, 오프라인 이벤트로 유저 접점 확대
2024-11-08 18:32:15[DD퇴근길] 쿠팡이츠, 배민 상생안 따를까…삼성, '가전구독' 시범운영
2024-11-08 18:09:59