[디지털데일리 김문기 기자] 퀄컴은 메타의 라마 2 대형 언어 모델(LLM)을 클라우드에만 의존하지 않고 온디바이스에서 실행할 수 있도록 최적화할 예정이라고 19일 발표했다.
라마 2와 같은 생성형 AI 모델을 스마트폰, PC, VR/AR 헤드셋, 차량 등의 온디바이스에서 실행함으로써 개발자들은 클라우드 비용을 절감할 뿐만 아니라 이용자들에게 개인적이고 신뢰할 수 있고 맞춤화된 경험을 제공할 수 있다.
이에 퀄컴은 새롭고 흥미로운 AI 애플리케이션 제작이 가능한 라마 2 기반의 온디바이스 AI 구현이 가능하도록 지원할 예정이다. 이로써 고객과 파트너, 개발자들은 지능형 가상 비서 및 생산성 애플리케이션, 콘텐츠 제작 도구, 엔터테인먼트 등의 사용 사례를 구축할 수 있다. 스냅드래곤으로 구동되는 이러한 새로운 온디바이스 AI 경험은 인터넷 연결이 없는 곳에서나 비행기 모드에서도 사용이 가능하다.
두르가 말라디 퀄컴 테크날러지 수석 부사장 겸 기술, 기획 및 엣지 솔루션 부문 본부장은 "퀄컴은 메타의 개방적이고 책임 있는 AI 접근 방식에 힘입어 생성형 AI를 온디바이스에 적용해 모든 규모의 개발자들을 위한 혁신을 추진하고 진입 장벽을 완화하는 데 전념하고 있다"며 "생성형 AI의 효과적인 대중화를 위해서는 클라우드뿐만 아니라 스마트폰, 노트북, 차량, IoT 등과 같은 엣지 디바이스에서도 AI를 작동할 수 있어야 한다"고 말했다.
퀄컴은 오는 2024년부터 스냅드래곤 기반 단말기에 라마 2 기반 AI 구현이 가능하도록 지원할 예정이다. 개발자들은 퀄컴 AI 스택을 활용해 온디바이스 AI 애플리케이션을 최적화할 수 있다. 퀄컴 AI 스택은 스냅드래곤에서 AI를 더 효율적으로 처리하여 얇고 가벼운 소형 기기에서도 온디바이스 AI 구현을 가능하게 하는 전용 도구 모음이다.
Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지
쇼핑엔티, 프리미엄 남성 패션 상품에 힘준다…獨 ‘골드파일’ 론칭
2025-04-28 14:57:30[현장] “SKT 유심오픈런, 3~4시간 기다려야”…T월드 홈피도 10만여명 대기줄
2025-04-28 11:17:15SKT 해킹 서버, 국가기반시설 아냐…최민희 "국가관리체계 전면 점검 필요"
2025-04-28 11:03:09SKT “해킹피해 발생시 100%책임…유심보호서비스 믿어달라”
2025-04-27 19:30:40크래프톤, 배틀그라운드 e스포츠 국제대회 ‘PGS 7’ 개최
2025-04-28 15:21:41[인터뷰] 크래프톤 장병규 “수년간 기른 선구안, ‘펍지’ 이을 메가 IP 노린다”
2025-04-28 12:00:00웹툰 '신의 탑' 외전 '우렉 마지노' 나온다…"28일 공개"
2025-04-28 11:08:14딜라이트룸, ICEIC서 호흡 분석 AI 모델 공개…"수면패턴 정밀 분석"
2025-04-28 11:08:03IPX, 美 세 번째 '라인프렌즈 스토어' 오픈…"K-팝 팬덤 어서 와"
2025-04-28 11:07:27‘마스터 시바’의 라멘 맛은?…롯데마트, ‘블루 아카이브’ 협업 라면 출시
2025-04-28 09:49:10