인젠트, “RAG 최적 프레임워크로 AI시대 지원”

실시간
뉴스

e비즈*솔루션

인젠트, “RAG 최적 프레임워크로 AI시대 지원”

디지털데일리 발행일 2024-10-22 17:08:04

오병훈 기자

URL복사

22일 박재범 인젠트 대표가 ‘인젠트 통합 솔루션 서밋2024’에서 ‘고객과 함께한 인젠트의 비즈니스 혁신과 여정’을 주제로 발표 중이다.

[디지털데일리 오병훈기자] 인공지능(AI) 학습을 위한 데이터 수집 중요성이 높아지면서 그 과정에 필요한 데이터베이스 관리시스템(DBMS) 고도화 요구도 늘어나는 추세다. 인젠트는 이같은 시장 상황 속에서 오픈소스 ‘포스트그레SQL’에 기반한 DBMS를 내세워 AI 특화 데이터 솔루션 서비스를 지향하겠다는 포부를 밝혔다.

22일 박재범 인젠트 대표는 ‘인젠트 통합 솔루션 서밋2024’에서 ‘고객과 함께한 인젠트의 비즈니스 혁신과 여정’을 주제로 발표하면서 “AI 시대 다양한 형태 데이터 처리 역량이 요구되면서 데이터베이스(DB) 관리 기준과 운영 모델 역시 포스트그레SQL DBMS 환경으로 전환할 수 있어야 한다”며 인젠트는 포스트그레SQL 백터 기반 검색증강생성(RAG) 플랫폼을 통해 고객사 AI전환(AX) 지원 계획에 나설 것임을 강조했다.

AI를 지향하는 기업 입장에서는 회사가 수집한 정형 및 비정형 데이터를 어떤 식으로 벡터화하고, 이 데이터를 어떤 거대언어모델(LLM)에 적용하는 것이 최적 결과를 낼 지 고민할 수밖에 없다. 이런 고민에 대한 종합적인 솔루션을 모두 제공하는 것이 인젠트가 가지는 강점이라는 것이 박 대표 설명이다.

박 대표는 “DBMS부터 AI모델을 보완하기 위한 RAG를 포함하는 ‘종합 해법’을 제시하는 기업은 인젠트 밖에 없다고 생각한다”며 “포스트그레SQL 벡터 기반 RAG 솔루션을 제시함으로써 고객사 AI전환을 적극 지원하겠다”고 강조했다.

이어지는 무대는 김경민 한국IDC 이사가 ‘생성형AI와 데이터인텔리전스 : 성과 창출을 위한 기업의 준비 전략’을 주제로 발표했다. 김 이사는 “기업이 효율적으로 AI를 활용하기 위해서는 ‘엔터프라이스 인텔리전스(EI)’ 아키텍처 구현이 요구된다”고 강조했다.

김 이사 설명에 따르면, 양질 AI 데이터를 확보하기 위한 EI는 4가지 ‘플레인’ 기술 기반을 통해 구현될 수 있다. 먼저, 데이터를 정제할 수 있는 기반이 마련돼야 하며(데이터 플레인), 수집된 데이터를 통합할 수 있는 기능들이 포함돼야 한다는 설명이다(데이터 컨트롤 플레인). 또, 통합된 데이터로 새로운 합성데이터를 낼 수 있는 합성 데이터도 아키텍처 가지고 있어야하며(데이터 분석 플레인), 결과적으로 AI 수요자에게 해답을 제공하는 기능(결정 기능 플레인)을 가지고 있어야 한다.

김 이사는 “EI는 데이터 라이프 사이클에서 데이터 파이프라인 도입 시간을 크게 단축시켜줄 수 있다”며 “탄탄한 데이터 파이프 라인 구축을 위해서는 EI 심리스 구축이 전사적으로 필요하다”고 강조했다.

마지막으로 박정권 인젠트 전무는 RAG 플랫폼 중요성에 대해 설명했다. RAG는 LLM에서 발생할 수 있는 환각 문제, 과거 데이터 출력 현상, 맥락 이해 부족 등을 보완한다. 이용자 질문에 대한 데이터를 LLM 내부에서만 찾지 않고, 외부 DB를 연계해 더 다양한 데이터에 접근할 수 있게 되는 것이다.

박 전무는 “RAG는 환각 현상을 줄여줌과 동시에 맥락 이해력도 높여준다”며 “RAG를 어떻게 구축하느냐에 따라 동일한 질문이라도, 답변이 달라질 수 있다”고 설명했다. 또, “인젠트는 RAG를 최적화하기 위한 프레임워크를 준비를 했고, 그것을 통해 고객사 수준 높은 AI 통합을 제공하겠다”고 강조했다.