델 테크놀로지스-메타, 대규모 언어모델 라마 2 온프레미스 구축 협력

실시간
뉴스

하드웨어

델 테크놀로지스-메타, 대규모 언어모델 라마 2 온프레미스 구축 협력

디지털데일리 발행일 2023-11-01 09:45:56

이상일 기자

URL복사

[디지털데일리 이상일기자] 델 테크놀로지스(Dell Technologies)가 페이스북 모기업인 메타(Meta)와 협력해 대규모 언어모델 라마 2(Llama 2)를 델의 IT 인프라스트럭처, 클라이언트 디바이스, 프로페셔널 서비스로 구성된 생성형 AI (GenAI) 포트폴리오를 통해 온프레미스로 손쉽게 구축할 수 있도록 나선다.

이번 협력의 핵심은 업계를 선도하는 델의 인프라 솔루션 포트폴리오와 라마 2 AI 모델 제품군을 결합하여 온프레미스 AI 환경을 간소화하는데 있다. 고객들은 이를 통해 온프레미스 데이터 센터 및 엣지 환경에서 생성형 AI를 보다 빠르게 적용할 수 있게 됐다. 델은 메타의 라마 2 모델을 시스템 사이징 툴에 통합하여 고객이 라마 2 기반 AI 역량을 강화하는 데 최적의 솔루션을 활용할 수 있도록 지원한다.

‘메타 라마 2 생성형 AI를 위한 델의 검증 설계(Dell Validated Design for Generative AI with Meta’s Llama 2)’는 사전 테스트를 거쳐 검증된 델의 인프라스트럭처, 소프트웨어 및 서비스를 통해 온프레미스 프로젝트의 구축 및 관리를 간소화한다. 완벽하게 문서화된 구축 및 구성 지침을 통해 조직은 생성형 AI 인프라를 빠르게 구축하고, 높은 예측 가능성을 바탕으로 라마 2를 운영할 수 있다.

메타 라마 2와 폭넓은 범위의 델 생성형 AI 솔루션 기술 및 서비스를 결합함으로써 조직의 규모와 관계없이 안정적인 툴을 사용해 데스크톱에서부터 코어 데이터센터, 엣지, 퍼블릭 클라우드 등 다양한 위치에서 생성형 AI 솔루션을 사용할 수 있다.

김경진 한국 델 테크놀로지스 총괄사장은 "생성형 AI는 다양한 위치에 구축이 가능한데, 많은 기업들이 데이터 프라이버시, 지적재산권, 보안 등의 이유로 온프레미스 형태를 고려하고 있다.”고 말하며 “메타 라마 2 모델과 델의 생성형 AI 포트폴리오를 결합함으로써 기업에서는 디지털 트랜스포메이션을 보다 가속화하고, 고객이나 내부 임직원과 폭넓게 소통함으로써 데이터 인사이트를 효과적으로 비즈니스에 적용할 수 있을 것으로 기대한다”고 말했다.