코난테크놀로지, 금보다 귀한 엔비디아 H100 GPU 국내 최초 입고

실시간
뉴스

소프트웨어

코난테크놀로지, 금보다 귀한 엔비디아 H100 GPU 국내 최초 입고

디지털데일리 발행일 2023-06-16 16:31:29

이종현 기자

URL복사

[디지털데일리 이종현기자] 챗GPT로 생성형 인공지능(AI)에 대한 관심이 뜨겁다. AI 연산을 위한 엔비디아의 최신 그래픽처리장치(GPU) ‘H100’은 금보다 귀하다고 평가받는다. 공급이 수요를 따라잡지 못해 발주를 넣더라도 받기까지 상당한 시간이 소요되는 상황이다.

16일 AI 기업 코난테크놀로지는 국내 최초로 H100 장비를 입고한다고 밝혔다. 이를 기반으로 대규모 언어모델(LLM)을 자체개발, 글로벌 빅테크 기업들과 경쟁하겠다는 포부다.

코난테크놀로지는 오는 3분기 중 자체 LLM ‘코난GPT’ 개발을 완료해 발표하겠다는 방침이다. 지난 2월 국내에서 가장 먼저 H100 장비 8대를 발주했다. 대량의 데이터와 매개변수 기반의 LLM 학습을 위해서다. H100 입고 전에는 클라우드 기업의 H100 인스턴스를 대량으로 리스해 사용해왔다.

내달 중 130억개 매개변수 파운데이션 모델(FM)을 갖출 예정인 코난테크놀로지는 신규 도입하는 H100 장비를 바탕으로 3분기 중 200억개 매개변수의 파운데이션 모델을 개발할 방침이다.

코난테크놀로지는 코난GPT와 ‘코난 챗GPT(가제)’를 필두로 한 LLM 개발을 통해 기존 챗GPT와 하이퍼클로바 애플리케이션프로그래밍인터페이스(API)에 의존하는 다른 기업과 차별화한다는 전략있다. 코난GPT의 경우 전체 학습 토큰은 1조개 이상, 이 중 한국어 토큰은 5000억개 이상이다.

김영섬 코난테크놀로지 대표는 “차별화된 환경에서 자체개발 초거대 AI언어모델을 출시해, 회사의 기밀이나 개인정보 보안 등이 중요한 B2G, B2B시장에 성공적으로 진출하겠다”고 말했다.