셀렉트스타 `첫 글로벌 AI 레드팀 챌린지` MWC 2025서 개최

실시간
뉴스

일반

셀렉트스타 '첫 글로벌 AI 레드팀 챌린지' MWC 2025서 개최

디지털데일리 발행일 2025-02-25 16:22:34

이건한 기자

URL복사

[디지털데일리 이건한 기자] AI 스타트업 셀렉트스타가 오는 3월 스페인 바르셀로나에서 열리는 'MWC 2025(모바일 월드 콩그레스)에서 GSMA(세계이동통신사업자연합회)와 함께 '글로벌 AI 레드팀 챌린지'를 개최한다.

행사는 3월5일 오후 12시 30분부터 2시 30분(현지시각)까지 바르셀로나 'Fira Gran Via Hall 6'에서 진행된다. 또한 셀렉트스타에 따르면 본 챌린지는 다국적 참여자와 LLM(대형언어모델)이 투입되는 첫 오프라인 글로벌 AI 레드팀 챌린지다.

AI 레드팀 챌린지는 점점 더 복잡한 의사결정 구조를 갖게 된 AI의 안전성, 신뢰성, 보안 강화 방법을 모색하고자 진행되는 행사다. 참가자들은 실제 서비스 중인 LLM에 모의 프롬프트 공격을 수행하며 유해하거나 차별적 결과, 시스템 오용 등 결함·취약성을 찾아내고 검증한다.

셀렉트스타는 공동 주최사로 이번 레드팀 플랫폼 운영, 문제 출제 및 응답 검수 등 핵심 역할을 수행한다. AI 레드팀 분야에서 쌓아온 노하우와 기술력을 선보일 예정이다. 본 대회에는 한국의 LG유플러스가 LG AI연구원의 엑사원을 기반으로 자체 제작한 소형 언어모델(sLLM)인 익시젠을 비롯해 아랍에미리트의 'TelecomGPT', 말레이시아의 'AIngineer' 등 유수의 글로벌 AI 기업들이 개발한 LLM이 출제 모델로 나설 예정이다.

또한, GSMA와 아랍에미리트 국영 통신사 E&, 대한민국 과학기술정보통신부, 대한민국 인공지능 안전연구소 등 글로벌 AI 및 통신 업계를 대표하는 기업과 기관들이 후원사로 함께한다.

셀렉트스타는 지난해 4월에도 국내 최초이자 최대 규모로 개최된 생성형 AI 레드팀 챌린지에서 대표 파트너사로 참여한 바 있다. 과학기술정보통신부가 주최하고 네이버클라우드, SK텔레콤, 업스테이지, 포티투마루 등 국내 대표 AI 기업의 모델 4종을 대상으로 700여 명이 참가하며 성황리에 종료했다.

황민영 셀렉트스타 부대표는 "셀렉트스타가 GSMA와 함께 글로벌 레드팀 챌린지를 개최하면서 글로벌 수준의 AI 레드팀 기술과 신뢰성 검증 기술을 보유하고 있다는 것을 인정받았다"라며 "이번 행사를 계기로 셀렉트스타의 AI 신뢰성 평가 솔루션을 세계 무대에 선보이고, 글로벌 AI 기업과 협력을 강화해 나갈 계획"이라고 밝혔다.

한편, 셀렉트스타는 MWC 2025에서 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 'DATUMO Eval(다투모 이밸)'도 글로벌 시장에 본격적으로 선보인다. AI 서비스 운영 중 발생할 가능한 오류와 위험성을 사전에 식별 및 대응할 수 있도록 지원하는 AI 신뢰성 검증 솔루션이다. 도메인 맞춤형 평가용 질문은 대량으로 생성하며 AI가 생성한 대답을 수치화하여 분석하는 등 검증 자동화 프로세스를 제공한다.