사람과숲-마커 공동 개발 LLM 모델, 허깅페이스서 세계 1위 달성

실시간
뉴스

솔루션

사람과숲-마커 공동 개발 LLM 모델, 허깅페이스서 세계 1위 달성

디지털데일리 발행일 2023-12-29 17:12:41

이종현 기자

URL복사

허깅페이스 오픈 LLM 리더보드에서 1위를 차지한 사람과숲-마커AI의 LLM ⓒ사람과숲

[디지털데일리 이종현기자] 전 세계 테크 기업들이 경쟁하는 인공지능(AI) 플랫폼 허깅페이스(Hugging Face)에서 국내 기업이 세계 1위를 달성했다.

29일 미디어그룹사람과숲(이하 사람과숲)은 자사와 마커AI가 공동으로 개발한 대규모언어모델(LLM) ‘Sakura_SOLAR-Instruct’ 모델이 허깅페이스의 오픈 LLM 리더보드서 평균 74.4점으로 전 세계 LLM 성능 1위에 올랐다고 밝혔다.

허깅페이스 오픈 LLM 리더보드는 전 세계 오픈소스 LLM 모델이 추론과 상식능력, 언어 이해 종합능력 등을 평균점수로 평가해 순위를 책정한다.

1위를 차지한 사람과숲과 마커AI의 모델은 ‘SOLAR-10.7b-Instruct-v1.0’과 ‘SauerkrauntLM-SOLAR-Instruct’ 2개 SOLAR 기반 모델을 병합하고 직접선호최적화(DPO, Directly Preference Optmization)를 적용, 파인튜닝해 만들었다. 두 모델 간 대답 분포도를 비교해 사용자가 원하는 대답으로 분포를 맞추는 DPO 노하우가 도움이 됐다고 전했다.

한윤기 사람과숲 대표는 “국내 1위에서 세계 1위까지 이어진 LLM 개발 여정에 밤낮으로 고생한 개발자들에게 이 영광을 돌린다”며 “사회적 가치 실현에 기업이 앞장서야 한다고 생각한다. AI와 같은 가장 앞선 기술의 수혜가 사회적 약자에게 돌아가는 구조가 만들어져 사회적 약자가 기술 개발에 적극적으로 참여하고, 그 열매를 다시 사회적 약자에게 돌려놓는 선순환 구조를 만들어 동반성장의 새로운 방향을 만들고 싶다”고 말했다.

한편 사람과숲은 한국정보화진흥원(NIA)과 업스테이지가 주관하는 ‘오픈 Ko-LLM 리더보드’에서 올해 9월 리더보드 오픈부터 12월까지 대부분의 기간 1위를 유지했다.