[현장] 보안이 열쇠다? LLM부터 RAG·PC까지... 코난테크식 AI `눈길`

실시간
뉴스

일반

[현장] 보안이 열쇠다? LLM부터 RAG·PC까지... 코난테크식 AI '눈길'

디지털데일리 발행일 2025-05-15 09:20:00

이건한 기자

URL복사

[디지털데일리 이건한 기자] 국내 AI 전문기업 코난테크놀로지(코난테크)가 올해 공개한 '코난 RAG-X'와 '온디바이스 생성형 AI PC' 알리기에 본격적으로 나섰다. 14일부터 16일까지 서울 코엑스에서 개최되는 AI 엑스포 코리아 2025 코난테크 부스(G26)에 방문하면 코난 RAG-X를 소개하는 대형 패널과 입구에 전시된 AI 데스크톱 PC가 눈길을 끈다. 모두 코난테크가 올해 전략적으로 공개한 신제품이다.

코난 RAG-X는 20년 이상 쌓인 코난테크의 벡터 검색 기술 노하우가 집약된 고성능 RAG(검색증강생성) 솔루션이다. 지난 2년여 사이 업무 생산성 개선에 도움이 되는 생성형 AI 서비스 인기가 높아졌으나 보안 문제로 도입이 어려웠던 공공·민간기업이 코난 RAG-X의 주요 사업 타깃이다. 기업이 사내 문서 및 레거시 시스템과 외부 웹 검색 데이터를 보안 걱정 없이 연동하여 분석할 수 있는 것이 강점으로 꼽힌다.

RAG-X에 대한 코난테크의 자신감은 상당하다. 지난 13일 독자적으로 진행한 2025 AI 쇼케이스에서는 해외 유명 AI검색 서비스인 퍼플렉시티와 직접 비교 시연을 진행하기도 했다. 특히 외부 공개가 어려운 기업 자료, 또는 재무제표 같은 기업 건강지표 분석용 자료에서는 퍼플렉시티와 같은 범용 검색 서비스를 앞선다는 설명이다.

코난테크는 지난 3월에 선보인 TG삼보와 협업한 AI PC도 이번 전시에 선보였다. TG삼보의 LME186 시리즈에 코난 LLM 온디바이스 모델(7B)이 탑재된 모델이다. 현재 시중에 CPU 중심의 AI 연산 기능을 지원하는 하드웨어가 많지만 속도가 느리고, 확장성이 떨어진다. 반면 코난 AI PC는 고속연산이 가능한 엔비디아 지포스 RTX 4070Ti Super 16GB를 탑재했다. 사용자 문서에 대한 실시간 벡터 색인도 지원한다. 따라서 PC에 저장된 문서를 LLM을 이용한 요약, 번역, 질의응답에 활용할 수 있으며 온디바이스 AI 특성상 인터넷을 사용하지 않아 보안성이 높다.

이와 같이 코난테크의 올해 신제품들은 보안을 유지하며 기업이 생성형 AI의 높은 생산성을 실무 환경에 접목할 수 있도록 돕는 것에 초점이 맞춰져 있다. 관련 수요가 높은 공공 부문과 금융권 등이 주로 관심을 보일 것으로 보인다. AI 인프라에 대단위 비용을 지속적으로 투자하기 어려운 중소기업에서의 전략적 도입도 기대해 볼 수 있다. 코난테크 부스 관계자에 따르면 AI PC는 현재 조달청 등록 절차도 진행 중이다.

또한 올해는 온디바이스, 프로페셔널, 엔터프라이즈 급으로 구분되는 코난테크 LLM 제품 라인업도 한층 두터워졌다. 이는 하드웨어인 AI PC, 코난 AI 스테이션 서버(기업용)와 온프레미스 컴퓨팅 인프라 등과도 긴밀히 연결돼 고객사 규모 및 필요에 최적화된 AI 사용 환경 구축이 가능해졌다.