인텔, 개방형 AI 기반 ‘애슬리트365’ 챗봇…파리 올림픽 출전 선수 지원

실시간
뉴스

PC/프린팅/디바이스

인텔, 개방형 AI 기반 ‘애슬리트365’ 챗봇…파리 올림픽 출전 선수 지원

디지털데일리 발행일 2024-07-19 10:45:08

김문기 기자

URL복사

[디지털데일리 김문기 기자] 인텔(대표 팻 겔싱어)은 국제 올림픽 위원회(IOC)와의 생성형 AI 검색 증강 생성(RAG, retrieval-augmented generation) 솔루션 관련한 협력 내용을 19일 발표했다.

이번 발표는 인텔 가우디 AI 가속기와 인텔 제온 프로세서를 활용한 개방형 AI 시스템 및 플랫폼으로 개발자와 기업이 당면한 과제를 어떻게 효과적으로 해결할 수 있는지에 대한 방법을 제시하고 있다.

저스틴 호타드 인텔 데이터센터 및 AI(DCAI) 그룹 총괄 수석 부사장은 “IOC와의 파트너십을 통해 인텔이 AI 접근성을 높이기 위해 어떤 노력을 하고 있는지 확인할 수 있다”라며 “인텔은 혁신과 창의성을 장려하며, 가시적인 결과를 끌어내는 맞춤형 AI 솔루션을 구축할 수 있도록 개방된 경쟁의 장을 조성하고 있다. 인텔은 개방형 협력 생태계를 수용함으로써, 선수들을 지원하는 방법을 혁신하고 고객과 함께 새로운 가능성을 열어가고 있다”라고 말했다.

올림픽 기간 동안 다양한 언어와 문화를 가진 약 1만1000명의 선수가 경기장을 탐색하고 규칙과 지침을 준수할 수 있도록 지원하기 위해 IOC는 인텔과 협력하여 ‘애슬리트365(Athlete365)’ 챗봇을 공동 개발했다. 해당 챗봇은 인텔 가우디 가속기와 제온 프로세서로 구동되는 RAG 솔루션으로, 선수의 문의에 응답하고 소통하며, 파리 올림픽 선수촌에 머무는 동안 훈련과 경기에 집중할 수 있도록 실시간으로 필요한 정보를 제공할 예정이다.

생성형 AI 솔루션을 배포하는 데 있어 비용, 규모, 정확성, 개발 요구 사항, 개인정보 보호 및 보안과 같은 과제를 해결하는 것이 필수적이다. RAG는 기업이 내부 데이터를 안전하게 활용하여 AI 결과물의 적시성과 신뢰성을 높일 수 있기 때문에 중요한 생성형 AI 워크로드다. 이는 현대의 데이터 중심 환경에서 중요한 AI 애플리케이션의 품질과 유용성을 향상시킨다.

인텔의 협업 접근 방식은 AI 플랫폼, 개방형 표준, 견고한 소프트웨어 및 시스템 생태계를 활용한다. 이를 통해 개발자는 각 기업의 요구에 맞는 맞춤형 RAG 기반 생성형 AI 솔루션을 구축할 수 있다.

인텔은 업계 협력사와의 협업을 통해 RAG를 간편하게 배포하기 위한 상호 운용 가능한 오픈소스 솔루션을 개발하고 있다. 생성형 AI 솔루션은 엔터프라이즈 AI용 오픈플랫폼(Open Platform for Enterprise AI, OPEA) 기반에 구축된 업계 중심의 즉시 사용 가능한 RAG 솔루션이다. 생성형 AI 턴키 솔루션은 데이터센터에 엔터프라이즈용 RAG 솔루션을 배포하는 간소화된 접근 방식을 제공한다. 또한, 여러 OEM 시스템 및 업계 협력사의 제품 카탈로그에서 구성 요소를 통합하여 매우 유연하고 맞춤화할 수 있도록 설계됐다.

생성형 AI 턴키 솔루션은 제온 및 가우디 AI 시스템을 배포하도록 설계된 확장 가능한 RAG 솔루션에 OPEA 기반 마이크로서비스 구성 요소를 통합한다. 해당 솔루션은 쿠버네티스(Kubernetes) 및 레드햇 오픈시프트(RedHat OpenShift)와 같은 검증된 오케스트레이션 프레임워크와 원활하게 확장되며, 보안 및 시스템 텔레메트리(system telemetry)와 함께 표준화된 API를 제공한다.

대부분의 대형언어모델(LLM) 개발은 인텔 가우디와 인텔 제온에서 지원하는 프레임워크 파이토치(PyTorch)를 기반으로 해 인텔 AI 시스템 또는 플랫폼에서 쉽게 개발할 수 있다. 인텔은 OPEA와 협력해 생성형 AI 턴키 솔루션에 최적화된 RAG 및 LLM 배포를 위한 개방형 소프트웨어 스택을 개발했으며, 파이토치, 허깅 페이스(Hugging Face) 서빙 라이브러리(TGI 및 TEI), 랭체인(LangChain) 및 레디스 벡터(Redis Vector) 데이터베이스로 구축됐다.

OPEA는 다양한 컴파일러와 툴체인을 위한 오픈 모델 개발과 지원에 중점을 둔 엔터프라이즈용 오픈 소스, 표준화 및 모듈화된 이기종 RAG 파이프라인을 제공한다. 이를 통해 버티컬 사용 사례에 대한 컨테이너화된 AI 통합 및 제공을 가속화한다. OPEA는 기술 스택의 선두에 서 있는 상세하고 구성 가능한 프레임워크를 통해 새로운 AI 가능성을 제공한다.

인텔은 생성형 AI 턴키 및 포괄적인 엔터프라이즈 AI 스택을 통해 기업 및 데이터센터 내에서 RAG 및 LLM 애플리케이션을 배포하고 확장하는 데 필요한 완전한 솔루션을 제공한다. 기업은 인텔 기반 AI 시스템 또는 플랫폼과 OPEA의 최적화된 소프트웨어를 활용해 효율성과 속도를 향상시키면서 생성형 AI의 잠재력을 최대한 활용할 수 있다.

한편, 인텔은 9월 24일과 25일에 열리는 인텔 이노베이션 행사에서 AI 시스템에 대한 인텔만의 접근 방식과 지속적인 고객 및 협력사 모멘텀을 발표할 예정이다.