코난테크놀로지, 남부발전과 41억대 계약...국내 첫 LLM 공공 도입

실시간
뉴스

일반

코난테크놀로지, 남부발전과 41억대 계약...국내 첫 LLM 공공 도입

디지털데일리 발행일 2024-06-26 10:43:58

이건한 기자

URL복사

[디지털데일리 이건한 기자] 코난테크놀로지가 한국남부발전(주)의 생성형 AI 구축 및 학습용역 사업을 계약했다.

26일 코난테크놀로지에 따르면 본 사업은 LLM(거대언어모델)의 공공부문 국내 첫 도입 사례다. 사업비는 41억6565만원이며 사업기간은 13개월이다. 코난테크놀로지 자체 기술로 독자 공급할 예정이다.

사업범위는 ▲텍스트와 이미지 생성이 가능한 생성형 AI 시스템 구축 ▲공공기관 공통 분야와 발전 분야에 대한 지식 수집 및 학습 ▲한국어에 기반 한 생성형 AI의 보고서 작성, 요약, 번역, 분석 및 코딩, Q&A ▲ 생성형 AI 모델의 학습, 배포 및 운영 등 관리 기능이 포함된다. 아울러 RAG(검색증강생성) 기능 구현은 코난테크놀로지의 벡터검색 기술이 적용된다.

이번 사업에서 생성형 AI 실증을 위해 ▲PPL(문장 품질 평가) ▲BLEU Score(번역품질평가) ▲ROUGE Score(요약품질평가) ▲보고서 작성 품질 ▲데이터 분석 ▲코딩능력 등 6개 분야에서 기술평가가 이뤄졌다. 코난테크놀로지는 보고서 생성, 번역, 요약, 자료분석, 코딩 등에서 높은 문서 생산성을 인정받았다.

또한, 생성형AI 모델을 사내 구축(온프레미스형)함으로써 생성형 AI 활용 시 수반되는 외부 정보 유출 가능성을 차단한 점도 보안을 중시하는 공공기관의 사업 요구에 부응했다.

코난테크놀로지는 지난해 8월 자체개발 대규모 언어모델 '코난 LLM'을 출시한 이후 유수의 기관·기업 등과 다양한 형태의 기술 실증(PoC) 사업을 진행 중이다. 또한 파라미터 13.1B를 시작으로 47B, 7B, 4B 등 라인업을 고루 갖춰 다양한 기업 수요에 대응하고 있다. 이번 사업에는 47B 모델이 적용됐으며 전체 학습 토큰 수는 1조5천111억개, 한국어 토큰수는 5111억개에 달한다.

김승기 사업총괄 부사장은 "PoC로 비즈니스 케이스를 점검해왔다면 이제 본격적인 사업 수주로 확장하는 단계"라며 "여러 수요기관과 사업화를 통해 매출 창출을 가속하겠다"고 포부를 전했다.