업스테이지-프렌들리AI, 솔라 번역 모델 기반 인프라 구축 협업

실시간
뉴스

일반

업스테이지-프렌들리AI, 솔라 번역 모델 기반 인프라 구축 협업

디지털데일리 발행일 2024-07-10 16:52:37

이건한 기자

URL복사

[디지털데일리 이건한 기자] 업스테이지가 프렌들리AI에 자사 LLM(거대언어모델) '솔라' 기반의 번역 모델 인프라 구축 계약을 체결했다고 10일 밝혔다.

앞서 업스테이지는 솔라 LLM을 파인튜닝(미세조정)한 한국어-영어 번역 특화 모델 API(응용프로그램 인터페이스)를 공개한 바 있다. 단순 문장 번역에서 나아가 전후 문맥을 종합해 의미를 추론하고 대화의 맥락과 흐름까지 파악하는 딥러닝 번역 모델이다. 업스테이지에 따르면 기계번역 평가의 바로미터로 꼽히는 메타의 '플로레스' 벤치마크 평가에서 오픈AI의 GPT-4, 딥엘(DeepL)를 앞서기도 했다.

이번 협약으로 업스테이지는 일일 최대 10만건에 달하는 번역 트래픽을 효율적으로 처리하기 위해 프렌들리AI의 '프렌들리 전용 엔드포인트(Friendli Dedicated Endpoint)'를 도입했다. 트래픽 부하에 따라 GPU 할당량을 동적으로 조정하는 자동 스케일링 기능을 통해 서비스 운영을 자동화하고 GPU 비용을 크게 절감할 수 있다.

전병곤 프렌들리AI 대표는 "업스테이지의 고성능 AI 모델과 프렌들리 AI의 인프라가 만나 기업들이 최저 비용으로 생성형 AI를 이용할 수 있도록 도울 것"이라며 "양사가 함께 AI 기업들의 혁신에 매진하겠다"고 말했다.

김성훈 업스테이지 대표는 "생성형 AI 인프라 수행 리더 기업 프렌들리AI와 협력으로 솔라 번역 모델의 서비스 비용을 효율화할 수 있게 됐다"며 "이제 더 많은 사람이 세계 최고 수준의 번역 모델을 더욱 빠르고 손쉽게 사용할 수 있을 것으로 기대한다"고 말했다.