AI 에이전트 잠재 오류 잡는 콕스웨이브... 중기부 `스케일업 팁스` 선정

실시간
뉴스

AI 에이전트 잠재 오류 잡는 콕스웨이브... 중기부 '스케일업 팁스' 선정

디지털데일리 발행일 2025-12-01 10:31:05

이건한 기자

URL복사

[디지털데일리 이건한기자] 콕스웨이브가 중소벤처기업부 주관 '2025년 스케일업 팁스(TIPS) R&D 글로벌형'에 선정됐다고 1일 밝혔다. 회사는 향후 3년간 15억원의 연구개발 자금을 지원받는다.

스케일업 팁스 R&D(글로벌형)는 혁신 역량을 갖춘 유망 중소벤처의 스케일업과 글로벌 시장 진출을 돕는 프로그램이다. 콕스웨이브는 AI 제품 분석 플랫폼 '콕스웨이브 얼라인(Align)' 개발·운영을 통해 확보한 AI 모니터링·분석 기술력과 글로벌 확장 역량을 인정받아 선정됐다.

콕스웨이브는 이번 사업으로 'LLM 기반 에이전트 서비스의 다중 행위 시퀀스 분석과 이상 탐지 기술'을 개발한다. 기존 상용 솔루션은 주로 오류 발생 시점을 추적하는 옵저빌리티에 그친다. 반면 콕스웨이브는 정상 동작 중에도 잠재 오류 가능성이 높은 케이스를 사전에 감지하는 '리스크 탐지(risk detection)' 방식으로 오류 대응 체계를 구축할 계획이다.

개발 기술은 에이전트의 최종 답변과 생성 과정을 동시에 검증한다. 최종 답변 단계에서는 고위험 요인 식별, 근거 없는 생성 탐지, 활용 자료 왜곡 탐지로 신뢰도를 평가한다. 생성 과정에서는 의도치 않은 동작, 일관성 오류, 잘못된 툴콜링 등 비정상 행동을 탐지한다. 또한 단일 요청-응답이 아닌 실제 업무 환경의 멀티턴 분석에 집중한다. 더불어 긴 컨텍스트 처리 모델과 LLM 경량화·ML 방법론을 복합 적용해 운영 리소스 효율을 높인다는 방침이다.

기업의 AI 에이전트 도입이 확산되면서 금융·헬스케어·법률·제조 등 고신뢰성 산업에서 운영 안정성 확보 수요가 커지고 있다. 콕스웨이브는 잠재 오류 탐지 기술을 바탕으로 글로벌 에이전트옵스(AgentOps) 시장을 선도하고 AI 신뢰성 분야 기술 리더십을 강화한다는 목표다.

김주원 콕스웨이브 대표는 "이번 선정은 콕스웨이브가 AI 에이전트 신뢰성 확보라는 핵심 과제에 대한 기술력을 인정받은 결과"라며 "정상 동작 중에도 잠재 오류를 사전 탐지하는 차별화된 접근으로 AI 활용의 신뢰 기반을 마련하고 AI 신뢰성 검증이라는 새로운 시장을 개척해 글로벌 표준을 만들어가겠다"고 말했다.