[AWS 서밋 서울] 생성형AI 시대 SKT·배민이 AWS와 협력하는 법

실시간
뉴스

e비즈*솔루션

[AWS 서밋 서울] 생성형AI 시대 SKT·배민이 AWS와 협력하는 법

디지털데일리 발행일 2024-05-16 16:46:27

권하영 기자

URL복사

정석근 SK텔레콤 글로벌AI테크사업부장이 16일 서울 코엑스 컨벤션센터에서 열린 ‘AWS 서밋 서울 2024’에서 기조연설을 하고 있다. [Ⓒ 디지털데일리]

[디지털데일리 권하영기자] 글로벌 최대 클라우드 기업 아마존웹서비스(AWS)가 16일 서울 코엑스 컨벤션센터에서 한국 최대 클라우드 기술 컨퍼런스 ‘AWS 서밋 서울 2024’를 개최한 가운데, 국내 1위 통신사 SK텔레콤과 배달의민족 운영사 우아한형제들이 각각 AWS와의 생성형 인공지능(AI) 관련 협력사례를 공유했다.

‘글로벌 텔코 AI 얼라이언스(GTAA)’를 통해 전세계 통신업계 AI 협력을 이끌어내고 있는 SK텔레콤은 ‘텔코(Telco, 통신사)’에 특화된 거대언어모델(LLM)인 ‘텔코 LLM’ 개발 현황을 소개하며 이를 뒷받침할 서비스 인프라로 AWS를 선택했다고 밝혔다.

SK텔레콤은 현재 자사를 포함해 유럽 도이치텔레콤, 동남아 싱텔, 일본 소프트뱅크 등이 공동 개발한 ‘텔코 LLM’을 향상시킬 검색증강생성(RAG) 기술을 개발하기 위해 생성형 AI 스타트업 앤스로픽의 파운데이션모델(FM)을 활용하고 있으며, 이러한 FM을 제공 및 관리해주는 서비스로 AWS의 도움을 받고 있다.

정석근 SK텔레콤 글로벌AI테크사업부장은 이날 기조연설에서 “SK텔레콤은 글로벌로 나가기 위한 초석으로 AI를 활용하고자 하며, 글로벌 서비스를 위해 AWS 및 앤스로픽 같은 파트너들과 긴밀히 협력하고 있다”며 “그 전략의 중심에 있는 텔코 LLM은 자사 데이터뿐만 아니라 다른 통신사들의 데이터도 함께 넣어 퍼포먼스를 향상시키고 있다”고 설명했다.

정 사업부장은 “요즘 굉장히 좋은 LLM들이 많이 발표되고 있는데, SK텔레콤 입장에선 어떤 모델을 써야 할지 고민이 남는다”며 “특히 어떤 업무에 어떤 모델을 적용할지가 비용이나 성능 최적화에 굉장히 큰 영향을 미치기 때문에, 우리는 모델 관점이 유연해야 한다”고 강조했다.

이어 “기존에 개발한 미세조정(Fine-tuning) 등이 다음 모델로 갔을 때도 상호보완이 되는 게 매우 중요하다”며 “그래서 우리는 이런 멀티 LLM을 타깃하고 있고, 클라우드 사업자가 제공하는 웹이나 오케스트레이션 플랫폼 위에 도메인 최적화를 하기 위해 여러 노력들을 거쳐 인텔리전스 플랫폼을 만들고 이를 사업화하기 위한 준비까지 하고 있다”고 밝혔다.

이는 SK텔레콤이 준비 중인 글로벌 ‘AI 개인비서(Personal AI Assistant, 이하 PAA)’ 서비스와도 맞닿아 있다. PAA 서비스를 위해 SK 텔레콤은 미국과 국내에 PAA 전담 자회사를 설립하고, 글로벌 시장과 고객 니즈를 반영한 서비스 개발을 진행 중이다.

이어 국내 최대 배달 플랫폼 ‘배달의민족’을 운영하는 우아한형제들 또한 AWS와의 파트너십 사례를 공유했다. 우아한형제들은 AI와 머신러닝(ML)은 물론 마이크로서비스아키텍처(MSA)와 핀옵스(FinOps) 등 다양한 최신 기술을 적용한 경험을 갖고 있다.

특히 우아한형제들은 늘어나는 사용자와 주문을 효율적으로 처리하기 위해 2016년 AWS를 기반으로 전면적인 클라우드 마이그레이션을 시작했다.

당시 우아한형제들은 클라우드 전환 여정 초기에 클라우드 기반의 MSA를 도입했다. 이후 급증하는 트래픽에 대응하기 위해 '명령·조회 책임 분리(CQRS)' 구조를 완성해, 시스템의 상태를 변경하는 작업과 조회하는 서비스를 분리했다. 특히 2020년 핀테크 업계 최초로 결제를 클라우드로 옮긴 작업은 결제 관련 버그를 클라우드 환경에서 손쉽게 실험해 추적하고 해결하는 것을 가능케 했다.

송재하 우아한형제들 최고기술책임자(CTO)는 “커머스 시스템에 있어 결제와 정산 부분에서 엄격한 전자금융거래법 규제를 받고 있었기 때문에, 우리는 클라우드 상에서 금융결제 서비스를 실현하기 위해 AWS와 긴밀한 협업을 통해 데이터 접근·관리·통제 등에 대해 규제당국을 설득하는 과정을 거쳐야 했다”며 “마침내 2020년 결제·정산 시스템까지 온전히 클라우드로 옮길 수 있었다”고 설명했다.

송 CTO는 “온프레미스 환경에서는 매우 힘들었겠지만, 이 뒤에 많은 IT 서비스들이 우리를 따라 결제·정산 서비스를 클라우드로 전환했고, 이렇게 클라우드를 촉매로 진행된 구조적 혁신이 이후 코로나19 팬데믹에서 폭발적인 비즈니스 혁신을 뒷받침할 수 있었다”고 역설했다.

ﾠ

우아한형제들은 앞선 혁신을 바탕으로 이번에는 AI를 활용해 메뉴 분류 및 추천, 배차 효율화, 리뷰 필터링 등 다양한 AI 기반 서비스를 고도화하고 있다.

현재 우아한형제들은 자율주행 로봇 ‘딜리(Dilly)’ 고도화와 함께 여러 영역에서 생성형 AI 활용을 시도하고 있다. 생성형 AI 기반의 ‘뚝딱이’ 서비스를 통해 리뷰 정보를 기반으로 사용자에게 메뉴를 추천하고 있으며, 아마존 베드록 내 클로드3을 기반으로 일부 생성형 AI 서비스를 개발 중이다.

송 CTO는 “우아한형제들은 8년 전 ‘AWS 올 인 마이그레이션(AWS All In Migration)’을 선언하고 단행함으로써 촉발된 혁신과 성장을 AI와 로봇 시대에도 계속 이어나가기 위해서 최선을 다할 것”이라고 강조했다.