IBM이 제시하는 기업형 AI… “생성 AI, 맞춤형 플랫폼이 필요하다”

실시간
뉴스

클라우드

IBM이 제시하는 기업형 AI… “생성 AI, 맞춤형 플랫폼이 필요하다”

디지털데일리 발행일 2023-11-21 14:19:57

이종현 기자

URL복사

11월21일 진행된 'AI와 데이터로 미래를 개척하라: IBM으로의 초대' 세미나에서 왓슨X 및 IBM의 AI, 데이터 전략에 대해 소개 중인 체탄 쿠마르 크리슈나무르티 IBM 아태지역 마케팅 및 커뮤니케이션 부문 부사장

[디지털데일리 이종현기자] “인공지능(AI)과 같이 비즈니스와 사회를 근본적으로 변화시키는 혁신 기술의 등장은 역사상으로도 드문 일이다. 엔터프라이즈 AI의 도입은 최근 5년간 2배 이상 증가했다. 새로운 움직임이 일어나고 있는 가운데 IBM은 그 모멘텀의 주역이 될 것.”(체탄 쿠마르 크리슈나무르티 IBM 아태지역 마케팅 및 커뮤니케이션 부문 부사장)

IBM은 <디지털데일리>와 함께 AI를 기반으로 데이터와 애플리케이션(앱)의 디지털 혁신이 비즈니스 영역에 어떻게 활용될지 최신 기술과 동향을 공유하는 세미나 ‘AI와 데이터로 미래를 개척하라: IBM으로의 초대’를 21일 개최했다.

서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 진행한 이번 행사에는 데이터 및 인공지능, 자동화 관련 기업 정보기술(IT) 전략‧운영부서 담당자 100여명이 참석했다. IBM의 AI 및 데이터 플랫폼 ‘왓슨X’ 등이 소개됐다.

세미나는 체탄 쿠마르 크리슈나무르티(Chetan Kumar Krishnamurthy) IBM 아태지역 마케팅 및 커뮤니케이션 부문 부사장의 발표로 시작됐다. 그는 “챗GPT가 대규모언어모델(LLM)에 대한 개념을 알리고 관심을 불러일으켰다”며 “IBM은 LLM, 정보기술(IT) 자동화 및 사이버보안 등 비즈니스 발전에 도움이 되는 파운데이션 모델(FM)을 개발 중”이라고 강조했다.

크리슈나무르티 부사장은 IBM의 왓슨X는 기업이 어디에 있든 신뢰할 수 있는 중요한 데이터를 활용해 비즈니스 전반에 걸쳐 AI를 학습, 조정, 배포할 수 있도록 설계됐다고 피력했다.

왓슨X는 크게 머신러닝과 생성형 AI를 위한 기본모델을 모두 학습‧검증‧조정‧배포하는 데 사용할 수 있는 스튜디오인 ‘왓슨X.AI’와 관리되는 데이터 및 AI 워크로드에 최적화된 데이터레이크하우스 서비스인 ‘왓슨X.데이터’, 데이터와 AI 거버넌스를 아울러 엔드투엔드 솔루션을 제공하는 ‘왓슨X.거버넌스’ 등 3개 주요 기능으로 이뤄진 플랫폼이다.

그는 “올해 IBM이 선보인 왓슨X는 최첨단 기능, 개방형 기술, 최고 수준의 보안 및 엔터프라이즈 비용을 갖춘 데이터‧AI 플랫폼이며 SAP, 어도비, 레드햇 등 기업과 긴밀하게 협력하며 고객을 지원하고 있다”고 피력하며 금융, 항공, 물류 등 여러 분야 기업이 IBM과 함께한 현대화 작업으로 비즈니스를 혁신한 사례도 공유했다.

11월21일 진행된 'AI와 데이터로 미래를 개척하라: IBM으로의 초대' 세미나에서 왓슨X.AI에 대해 소개 중인 한국IBM 이규봉 부장

크리슈나무르티 부사장에 이어 한국IBM 이규봉 부장이 발표를 진행했다. 이 부장은 ‘생성형 AI에 기업 맞춤형 왓슨X 플랫폼이 필요한 이유’를 주제로 왓슨X.AI에 대한 세부적인 소개를 진행했다.

챗GPT의 등장 이후 생성형 AI가 IT 시장에 막대한 영향력을 끼쳤음을 언급한 이규봉 부장은 IT 시장조사기관 가트너의 자료를 인용, 올해 4~5월 ‘생성형 AI가 무엇인지’에 집중됐던 기업들의 주요 관심사가 ‘생성형AI를 조직에 어떻게 적용할 것인지’로 옮겨갔다고 전했다.

이와 같은 변화가 매출 증대, 생산성‧효율성 향상과 같은, 비즈니스에 상당한 효과가 있기 때문이라는 것이 이 부장의 분석이다. 또 긍정적인 효과와 함께 생성형 AI 도입이 지속하면서 혼란과 불확실성 역시 함께 상승했다고도 지적했다.

그는 “잠자코 있는 것보다는 투자를 하는 것이 낫다, 설사 실패하더라도 거기서 교훈을 얻으며 빠르게 비즈니스에 적용하는 것이 성공의 지름길이라는 인식 하에 기업들은 생성형 AI에 대한 투자를 이어가는 중”이라며 “다만 비용과 컴플라이언스, 데이터 주권, 생성형 AI의 환각(할루시네이션) 등은 여전히 기업들의 허들이 되고 있다”고 말했다.

이어서 “하드웨어의 발전, 모델 경량화로 모델 개발에 대한 시간과 비용이 많이 줄었지만 여전히 LLM을 직접 개발하는 것은 부담”이라고도 부연했다. 연산을 위한 그래픽처리장치(GPU) 구매와 같은 초기 투자를 비롯해 AI 학습을 위한 데이터 수집 및 전문지식 등이 기업의 생성형 AI 도입을 가로막고 있다는 설명이다.

이런 가운데 IBM은 모델을 직접 개발할 수 있도록 하거나, IBM이 검증한 오픈소스 모델을 도입하거나, IBM이 개발한 모델을 사용하는 등의 선택지를 제공하고 있다고 전했다.

또 파운데이션모델(FM)을 목적에 맞게 사용하려면 튜닝이 필요하다. 내가 원하는 결과를 얻기 위해 어떤 상황을 설명하고, 역할을 부여하고, 예졔를 제시함으로써 내가 원하는 답변에 가까운 답변을 얻도록 하는 방식의 ‘프롬프트 엔지니어링’과 세부 데이터 레이블에 우리 업무를 더 이해할 수 있도록 추가 데이터를 더하는 ‘파인튜닝’ 등이 그 예다. 왓슨X.AI는 이와 ‘프롬프트랩’을 통해 프롬프트 엔지니어링과 파인 튜닝을 지원하고 있다.

11월21일 진행된 'AI와 데이터로 미래를 개척하라: IBM으로의 초대' 세미나에서 왓슨X.데이터에 대해 소개 중인 한국IBM 김용민 부장

이규봉 부장에 이어서 김용민 한국IBM 부장이 차세대 데이터 저장소 왓슨X.데이터에 대한 소개를 이어갔다.

김용민 부장은 기업들이 폭발적인 데이터의 증가, 데이터의 사일로(Silo)화, 데이터 종류의 다양화, 낮은 데이터 품질 등 갖가지 데이터 문제에 직면했다고 전했다. 향후 5년간 전체 데이터 양은 2.5배 증가하고 82%의 기업은 데이터 사일로를 겪고 있다는 설명이다.

그는 “인프라적인 측면에서 온프레미스에서 클라우드로 전환하는 움직임은 앞으로도 계속할 전망이다. 온프레미스와 여러 멀티 클라우드를 한곳에서 볼 수 있는 데이터 플랫폼이 필요한 상황”이라며 왓슨X.데이터가 기업이 직면한 데이터 문제의 해결책이 될 것이라고 제시했다.

김용민 부장은 데이터 레이크하우스 컨셉의 제품인 왓슨X.데이터를 데이터웨어하우스(DW)의 성능과 데이터 레이크의 유연함을 결합한 제품이라고 소개했다. 또 경쟁사의 데이터 레이크하우스를 1세대 제품으로, 자사 제품은 2세대 제품으로 분류하는 자신감도 드러냈다.

그는 “기존 제품들, 1세대 제품들은 엔진을 한 가지만 제공한다. 하지만 왓슨X.데이터는 2개 이상의 멀티 엔진을 지원한다. 고객이 워크로드를 더 효율 좋은 엔진과 매칭해 비용과 성능을 최적화할 수 있다”고 강조하며 “경쟁사 제품은 모두 클라우드를 기반으로 운영되고 있는데, 왓슨X.데이터는 클라우드뿐만 아니라 온프레미스 환경에서도 구현 가능하다”고 부연했다.

김용민 부장은 왓슨X.데이터를 통해 1세대 데이터 레이크하우스 제품대비 50%의 비용 절감이 가능하다고 피력했다. MySQL, 몽고DB, 마리아DB 등 대부분의 데이터베이스(DB)에 대한 접근도 지원한다는 설명이다. IBM DB2를 비롯해 프레스토(Presto), 아파치 스파크(Spark) 등 쿼리 엔진의 선택도 가능하다. 특정 공급사에 종속되지 않는 아파치 아이스버그를 통해 서로 다른 엔진이 동시에 동일한 데이터에 액세스하고 공유하는 것도 가능하다.