부서 운영비 수십억원 절감... AI 경쟁 '나비효과' 기대

AI 대전환의 시대, 쏟아지는 이슈와 키워드 중 '꼭 알아야 할 것'과 '알아두면 좋은' 것을 구분하기란 쉽지 않습니다. 뜬구름 잡는 이야기도 많습니다. [real! AI Pro]는 이 고민을 현업 전문가들이 직접 선정한 주제와 인사이트를 담아 명쾌하게 정리해드립니다. <편집자주>

[디지털데일리 이건한 기자] 요즘 AI를 논할 때 "생성형 AI는 업무 생산성 향상에 도움이 됩니다"처럼 진부한 이야기가 또 있을까요? ChatGPT에서 촉발된 그 가능성과 기대감은 이미 2년도 더 숙성된 것이라, 솔직히 더이상 신선함을 찾아볼 수 없거든요.

한편으론 '생성형 AI가 그렇게 대단하다는데, 왜 그동안 '성공적'이라고 부를만한 도입 사례는 잘 전해지지 않았나' 같은 질문도 따릅니다. 여기에는 두 가지 이유가 있었는데요. 오늘은 페르소나AI의 비즈니스 전략 총괄인 윤석주 이사(CBO)가 이에 대한 현장의 관점과 인사이트를 전해드립니다.

■ 코앞에 온 '에이전틱 AI 시대'... "10억명이 혜택 누릴 것"

안녕하세요, 윤석주입니다. 지난 1월 미국 라스베가스에서 열린 CES 2025에 다녀왔습니다. 기조연설에서 올해 CES의 중심인물이었던 젠슨 황 엔비디아 CEO는 다음과 같이 말했습니다. "곧 실체를 지닌 '피지컬(Physical) AI'의 시대가 올 것이며, 그 직전 단계로 에이전틱(Agentic) AI가 전세계 10억명의 지식 노동자들을 돕게 될 것"이라고요.

참고로 황 CEO가 언급한 피지컬 AI는 단순 AI 로봇이 아닙니다. 사람처럼 물리세계를 이해하고, 현실에서 스스로 학습하며 행동까지 가능한 AI 하드웨어를 의미합니다. 또한 그 로봇의 효용은 주로 사용자의 지적·물적 생산 활동을 보조하는 '에이전트(Agent)'의 생산성에서 설명될 것인데요. 이는 올해 AI 산업에서 주목할 키워드가 '에이전틱 AI'라고 말하는 많은 전문가의 이야기와도 일맥상통합니다.

■ 잘 만든 AI 에이전트, 지금은 기업의 '비밀무기'

실제로 올해 CES 전시장 곳곳에선 많은 기업이 일반인들의 생각보다 빨리, 그리고 많이 자사 제품과 비즈니스에 AI 에이전트를 내재화했다는 느낌을 받았습니다. 실제 활용도나 도입 효과 등은 전혀 다른 이야기지만요. 따라서 전문가들이 올해 AI 에이전트 키워드에 특히 주목하고 있는 건 단순 도구 수준에서 나아가, AI 에이전트가 일상과 업무에서 얼마나 '실질적인 가치'를 입증할 것인지에 관한 것들입니다.

일례로 샘 알트먼 오픈AI CEO는 최근 트럼프 행정부에 '박사급 슈퍼 에이전트'를 선보일 것이라고 말한 바 있습니다. 여기서 놀라운 사실은, 아직 대외공개가 제한되는 상황일 뿐 한국에도 이미 박사급 슈퍼 에이전트 수준의 업무를 해내는 AI 도입 사례가 있다는 것입니다. 또한 꼭 슈퍼 에이전트 급은 아니라도 꽤 실질적인 수준의 AX를 이뤄낸 기업 사례도 적지 않은 편입니다.

그러나 그만큼 '주목할 만한 성공 사례'에 해당하는 기업들은 의외로 그 성과를 회사 밖으로 알리는 일에 보수적인 자세를 취하기도 합니다. 저는 이것이 마치 영화 속 '요원(에이전트)'들이 비밀무기로 적을 제압하듯, 기업들도 치열한 경쟁 상황 가운데 자사의 AI 도입 성공사례를 '보이지 않는 무기'로 전력화(戰力化)하고 싶은 마음 때문이라고 생각합니다.

■ '슈퍼 에이전트'는 운영비만 절감하지 않는다

전력화된 AI에는 다양한 의미가 담길 수 있습니다. 여기서 저는 기업에 초점을 맞추고 '생성형 AI의 생산성 향상'이란 진부한 표현에 사실 얼마나 강력한 비즈니스 경쟁력이 내포되어 있는지 되짚어보려 합니다. 제가 최근 직접 확인한 사례로, 국내에 모 기업은 생성형 AI 솔루션 도입 후 단일부서에서 연간 30억원의 운영비를 1억원까지 대폭 절감했습니다. 또한 조기 출근과 야근이 수반되던 해외 거래처 업무도 AI로 효율화해 하루 최소 4시간의 초과근무를 줄이기도 했습니다.

여기서 시사점은 단순히 얼마나 큰 돈을 절감했느냐가 아닙니다. 절감된 비용에 담긴 가치를 입체적으로 이해해야 합니다. 해당 기업이 30억원의 운영비를 1억원으로 줄였다는 건, 절감된 29억원의 예산은 마음먹기에 따라 또다른 재투자용 재원이 될 수 있다는 이야기입니다. 투자 대상은 기술 R&D가 될 수도, 고연봉 AI 인재 충원이 될 수도, 직원의 복지 향상이 될 수도 있습니다.

기술, 인재, 조직에 대한 투자는 모든 기업의 성장에서 중요한 요소입니다. 특히 요즘 AI 업계는 석박사급 인재 쟁탈전이 정말 치열합니다. 덕분에 그들의 몸값도 훌쩍 뛰어서 실력이 검증된 이들은 미국에서 최소 수억원의 초봉을 받고 일하기도 하지요. 반면 한국에선 보통 그만한 연봉을 맞추기 힘들어 영입에 실패하는 사례도 흔합니다.

또한 그만한 인건비를 마련하려면 보통 회사의 이익이 크게 늘거나, 조직 내 다른 영역의 예산을 감축해야 합니다. 전자는 마음처럼 될 수 없는 일이고, 후자는 기업 스스로 통제할 수 있으나 누군가의 반발이 따를 일이지요. 따라서 이상적인 방안은 그 누구도 불이익을 받지 않으면서 회사가 조직 운영 효율화를 통해 투자 재원을 만들어내는 일입니다.

나아가 이런 투자 여력의 차이는 곧 기업 간 경쟁력 차이로 이어집니다. 물론 기업은 자신들이 어디에 얼마나 전략적으로 투자하고, 어떻게 재원을 확보하는지 경쟁사에 알리고 싶지 않겠지요. 일종의 영업기밀이기 때문입니다. AI 도입 효과가 크면 클수록, 이런 경향은 더욱 강해집니다. 이 때문에 아마 모든 기업의 AI 도입 및 효율화가 일반화되기 전까지는 외부로 공개되는 성공 사례를 당분간 더 많이 찾아보긴 어려울 겁니다.

■ 더 빠르고 섬세하게... 최종 목표는 '옵티멀 AI'

이처럼 눈에 보이고 들리지 않아도, 생성형 AI 기반 AX에 담긴 잠재력에 확신이 생겼다면 기업은 대응을 더욱 서두를 필요가 있습니다. 기업은 디지털 트랜스포메이션(DX)을 실현하는 과정에서 업무 프로세스를 정립하고 이에 꼭 맞는 시스템을 적용함으로써 비즈니스 혁신에 도달하게 됩니다. 여기에서 한 걸음 더 나아간 AX는 'AI로 우리 회사만의 차별성을 얼마나 만들어 낼 수 있는지'까지 고려해야 합니다.

특히 요즘 AI 프로젝트는 '속도전'입니다. 반면 기업용 AI는 일반 사용자용 AI와 달리 ▲보안 강화 ▲환각 해소 ▲고품질 ▲신뢰성 유지 등 기술적으로 더욱 섬세한 접근을 요구합니다. 이에 대응하며 프로젝트 속도를 높이고, 결과물의 완성도까지 확보하기 위해서는 개발에 앞선 기획 단계의 중요성도 굉장히 높아지는데요.

페르소나AI의 경우 우선순위 과제를 짧은 주기로 빠르게 실행하고 검증하는 애자일(Agile) 개발 방법론을 기획 단계부터 적용하는 방법으로 좋은 효과를 보았습니다. 여기에 저희가 자체 개발한 NLP(자연어처리) 엔진과 sLLM(경량화된 대형언어모델)을 결합한 'KGPT', 최신 RAG(검색증강생성) 아키텍처가 내장된 AI 솔루션 젠스테이션(GEN STAION)으로 기업 수요에 최적화된 AI 에이전트 서비스를 제공하고 있지요.

특히 젠스테이션에는 각 산업과 업무 특성에 최적화된 부서별 봇(BOT)이 이미 100여개 이상 구성돼 있습니다. 이들 봇을 적재적소에 조합하면 현존하는 거의 모든 기업 도메인이 요구하는 비즈니스 로직의 자동화 및 생산성 향상이 가능하지요. 앞서 사례로 언급된 연간 29억원의 비용절감 사례도 젠스테이션의 도입 효과가 극대화된 케이스 중 하나입니다.

또한 저희는 그동안 AI가 데이터를 자동으로 생성하는 'NLG(Natural Language Generation)' 기술, GPU 없이 작동하는 경량화 AI 엔진 'SONA Edge sLLM' 등 업계의 보편적 AI 과제 해결을 위한 기술들을 확보하고 있습니다. 특히 'SONA 1' 엔진은 이번 CES에서 'No Internet, No GPU'로 AI를 작동하는 기술을 선보였습니다. AI에 대한 일반적 통념을 깬 덕분에 많은 참관객이 체험을 위해 줄을 서 대기하는 모습도 목격됐습니다.

이처럼 모든 정황을 고려할 때, 올해는 생성형 AI를 레거시 시스템과 효율적으로 연동하기 위한 방법, 그리고 실제 비즈니스 업무에서도 정말 쓸만한 수준의 '옵티멀(Optimal) AI' 실현이 모든 AI 산업 현장의 목표가 될 것이 확실시됩니다. 또한 그 결과는 곧 젠슨 황 CEO가 말한 '10억명의 지식 노동자를 돕는 AI 에이전트'가 될 것이며, 궁극적으로 누가 더 옵티멀한 에이전트를 전력화하는지가 기업의 AX 경쟁력에도 큰 차이를 만들 것으로 예상됩니다.

Copyright ⓒ 디지털데일리. 무단전재 및 재배포 금지