[MWC25] 첫 글로벌 AI 레드팀 챌린지 성료... "2026년에 더욱 확대"

실시간
뉴스

일반

[MWC25] 첫 글로벌 AI 레드팀 챌린지 성료... "2026년에 더욱 확대"

디지털데일리 발행일 2025-03-07 11:05:47

이건한 기자

URL복사

[디지털데일리 이건한 기자] 지난 5일(현지시각) 스페인 바르셀로나 피라 그란 비아 전시장에서 열린 'MWC(모바일월드콩그레스)25'에서 열린 첫 글로벌 AI 레드팀 챌린지가 성황리에 진행됐다.

AI 레드팀은 챌린지는 참가자들이 LLM(대형언어모델) 기반 AI에 다양하고 창의적인 방식의 쿼리(Query, 질문)를 입력해 보안상 허점을 찾아내는 행사다. 이를 통해 특정 AI 모델이 어떤 경우 환각 현상이 발생하는지, 또는 설정된 안전 가드레일을 우회해 위험한 답변을 끌어낼 수 있는지 찾아 보완할 수 있다.

국내 AI 스타트업 셀렉트스타는 올해 MWC 주최측인 GSMA(세계이동통신사업자연합회)와 이번 레드팀 챌린지 공동 주최사로 참여해 레드팀 플랫폼 운영, 문제 출제 및 응답 검수 등 핵심 역할을 수행했다고 전했다. 대회에는 총 335명이 사전 신청했으며 참여자 국적은 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양했다. 현장에는 총 100여명이 모여 AI 모델을 대상으로 다양한 공격 기법을 시도하며 실력을 겨뤘다.

대회 목적은 생성형 AI 서비스 신뢰성 검증의 필요성을 글로벌 시장에 알리고자 마련됐다. 참가자들은 셀렉트스타가 구축한 레드팀 플랫폼에 연결된 LLM을 대상으로 프롬프트 공격을 수행해 유해하거나 차별적 결과, 시스템 오용 등을 찾아내고 검증했다. 이번 레드팀 챌린지는 LG전자의 AI 모델 '엑사원'을 기반으로 제작된 LG유플러스의 소형 언어모델 '익시젠', 아랍에미리트의 'TelecomGPT', 말레이시아의 'AIngineer' 등 다양한 국가의 LLM이 출제 모델로 활용됐다. 셀렉트스타는 이번 행사를 계기로 GSMA, 후원사 e&과 협의해 내년 MWC에서는 더욱 큰 규모의 레드팀 챌린지를 진행하기로 합의했다.

셀렉트스타는 레드팀 챌린지 추최와 더불어 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO Eval)'을 최초 공개하며 좋은 반응을 얻었다. 해당 솔루션은 생성형 AI 서비스의 신뢰도를 자동으로 분석·검증할 수 있어, 참관객들은 물론 글로벌 기업들로부터 높은 관심을 끌었다. 실제 솔루션 문의가 잇따르며 해외 시장 가능성을 확인했다는 후문이다.

황민영 셀렉트스타 부대표는 "'MWC25'에서 최초의 글로벌 레드팀 챌린지 개최를 비롯해 다투모 이밸 솔루션을 해외 시장에 처음으로 선보이며 AI 모델의 신뢰성 검증이 업계 전반에서 중요한 과제가 되고 있음을 다시금 실감했다"며 "지속적으로 솔루션 고도화에 힘쓰며 글로벌 시장 확장에 박차를 가할 것"이라고 말했다.