[AI웨이브]⑪ ‘생성형 AI’ 부상…‘온 디바이스 AI’ 깨웠다

실시간
뉴스

PC/프린팅/디바이스

[AI웨이브]⑪ ‘생성형 AI’ 부상…‘온 디바이스 AI’ 깨웠다

디지털데일리 발행일 2024-05-02 13:36:49

김문기 기자

URL복사

<디지털데일리>가 주최하는 [AI WAVE 2024]가 오는 5월 9일, 서울 롯데호텔의 사파이어 볼룸에서 열립니다. 이번 행사의 주제는 ‘산업별 AI 혁신과 도전과제’로, 인공지능 기술이 여러 산업 분야에 미치는 영향과 이로 인한 시장 변화를 심도 깊게 다룰 예정으로 <디지털데일리>는 행사에 앞서 AI 기술의 현 주소와 각 산업별 도입 사례 등을 조망하는 기획기사를 연재합니다.<편집자>

크리스티아노 아몬 퀄컴 CEO는 24일(현지시간) 미국 와일레아 비치 리조트 메리어트에서 열린 ‘스냅드래곤 서밋 2023’을 개최한 자리에서 ‘온디바이스AI’를 통한 생성형 AI에 대해 말하고 있다.

[디지털데일리 김문기 기자] “차세대 AI의 미래는 온 디바이스 지능화가 클라우드와 협력해 더 나은 개인화, 개인정보보호, 안정성 및 효율성을 제공하는 하이브리드가 될 것이다. 생성형 AI가 클라우드, 엣지 및 장치 전반에 걸쳐 확장되도록 돕는 것이 무엇보다 중요하며 AI 솔루션을 통해 이 생성형 AI 시대를 지원할 수 있는 차세대 연결성이 중요하다.”

크리스티아노 퀄컴 CEO는 지난 2월 스페인 바르셀로나에서 개최된 모바일월드콩글레스(MWC) 2024에서 온 디바이스 AI를 통해 기존 AI를 주도한 클라우드 솔루션과 협업해 하이브리드 AI가 차세대 대안이 될 것이라며 이같이 말했다.

‘온 디바이스 AI’란 디바이스가 자체적으로 AI를 구현하는 것을 의미한다. 인터넷 없이, 클라우드에 접속하지 않고도 스스로 자체적인 AI를 작동할 수 있다는 의미다. 인터넷 연결이 없다는 것은 클라우드가 가진 방대한 데이터나 관련된 소프트웨어 없이 동작할 수 있어야 하기 때문에 그만큼의 기초 체력을 요구한다. 반대로 인터넷에 연결되지 않기 때문에 보안 측면에서는 더 강력한 역량을 발휘할 수 있고, 또 네트워크 제약에서 벗어나 더 빠른 속도로 결과를 도출할 수있다.

이전까지 AI는 클라우드를 기반으로 한 거대 모델들에 의해 동작했다. 하지만 이같은 거대 AI 모델들의 경우 운용 비용이 만만치 않다. 가령 오픈AI는 GPT-4에 3000억~6000억개의 파라미터(매개변수)가 투입되면서 엔비디아 AI 플랫폼 ‘A100’ 1만여대가 쓰인 것으로 추정했다. ‘A100’의 가격이 약 1만500달러임을 감안했을 때 실로 막대한 비용이 쓰인 셈이다.

온 디바이스 AI는 이같은 거대 AI 모델의 데이터 처리 비용을 줄일 수 있는 기회다. 기기 자체가 데이터를 수집 및 처리해줌과 동시에 샘플링이 가능하기 때문이다. 즉, 기존에는 중앙집중적인 형태였다면 향후 AI는 분산형이 접목된 하이브리드 방식으로 전개될 공산이 크다. 생성형 AI가 보다 가속화될 수 있다는 의미다.

업계는 전세계적으로 챗GPT와 같은 AI 플랫폼뿐만 아니라 네이버 등의 검색엔진 등에서도 클라우드 컴퓨팅이 주로 쓰이고 있으나, 수많은 데이터를 처리하기 위해서는 온 디바이스 AI를 통한 하이브리드 역량이 강화돼야 한다는 분위기다. 클라우드 컴퓨팅은 수많은 서버와 자원, 전력 등이 필요하기 때문에 구축에 따른 비용이 만만치 않다는 것뿐만 아니라 기업의 기밀정보나 개인정보 등에 대한 보안 문제가 불거질 수도 있기 때문이다.

물론 단순하게는 현재 하드웨어 측면에서의 온 디바이스 AI는 기존 컴퓨팅 자원인 CPU와 GPU 이외 신경망제어프로세서(NPU)가 추가된 수준에 머무르고 있다. 인텔과 AMD, 퀄컴, 애플 등 유수의 대기업 역시 차세대 프로세서를 소개하면서 NPU 도입에 방점을 찍었다. 다만, 이후는 NPU 추가를 넘어 온 디바이스 AI를 실현할 수 있는 대안과 솔루션, 개발자뿐만 아니라 일반 고객까지 확산될 수 있는 생태계가 필요하다.

당장은 성과가 나오고 있다. 지난 4월 30일 서울 여의도 콘레드 호텔에서 열린 HP 신제품 기자간담회장에서 무대에 오른 소병홍 HP코리아 전무는 “가령 줌을 이용한다고 하면 블러링 기능을 켜면 CPU의 30%를 잡아먹는다고 한다. 퍼포먼스뿐만 아니라 전력 문제가 발생할 수 있다. 물론 CPU가 없다면 GPU의 도움을 받을 수 있기는 하나 성능을 저하시키면서 핵심 업무를 처리하지 못할 수 있다. 발열도 문제다”라며, “수많은 AI 애플리케이션이 CPU와 GPU 본연의 업무를 방해하지 않고 AI 리치를 양껏 사용할 수 있기 위해 NPU가 도움을 주는 셈”이라고 사례를 제시하기도 했다.

삼성전자 MX사업부장 노태문 사장이 '갤럭시 언팩 2024'에서 갤럭시 S24를 공개하고 있다.

온 디바이스 AI는 가깝게는 스마트폰부터, PC, 가전에 이르기까지 여러 카테고리로 확장되고 있다. 당장 삼성전자 갤럭시S24의 성공적 안착이 눈길을 끈다. 노태문 삼성전자 MX사업부장(사장)은 “"갤럭시 AI는 이제 시작이다. 갤럭시 S24 시리즈를 개발하며 구상했던 많은 새로운 아이디어와 콘셉트는 기술이 더욱 발전되고 고도화되면서 더욱 새롭고 혁신적인 기능들로 지속 소개될 예정이다”라고 자신한 바 있다.

애플도 AI 확산을 위해 고군분투 중이다. 최근 캐나다 AI 스타트업인 다윈AI를 인수한 것으로 알려졌다. 조만간 열릴 애플세계개발자대회(WWDC)에서 면면을 공개할 것으로 기대된다.

중국 역시 만만치 않다. 시장조사업체 카운터포인트리서치에 따르면 올해 전체 스마트폰 출하량 가운데 생성형 AI폰의 비중은 11%로 전망된다. 2027년에는 그 비중이 43%까지 증가할 것으로 분석된다. 현재 화웨이를 비롯해 오포, 아너, 비보 등 중국 업체들도 AI 단말기 개발에 집중하고 있는 알려졌다.

PC 시장에서는 전통 강자인 인텔과 2위 기업인 AMD뿐만 아니라 퀄컴이 스냅드래곤X 시리즈로 AI PC 시장에 뛰어든다.

란짓 아트왈(Ranjit Atwal) 가트너 시니어 디렉터 애널리스트는 “온디바이스 생성형 AI 기능과 AI 프로세서의 빠른 채택은 결국 기술 공급업체의 기본 요건이 될 것”이라며, “이러한 보편화로 인해 공급업체는 경쟁업체와의 차별화에 대한 부담을 갖게 될 것이며 고유 판매 포인트 개발 및 매출 증대에 어려움을 겪을 것”이라고 말했다.