셀렉트스타, MWC 레드팀 챌린지 성료…"내년 더 크게 연다"

[이데일리 임유경 기자] AI 스타트업 셀렉트스타는 현지시간 지난 5일 스페인 바르셀로나 피라 그란 비아 전시장에서 열린 세계 최대 이동통신 전시회 ‘MWC25’에서 생성형 AI 모델 신뢰성·안전성 검증대회인 ‘글로벌 AI 레드팀 챌린지’를 성황리에 마쳤다고 밝혔다.

글로벌 AI 레드팀 챌린지’ 주최, 주관사 관계자가 단체 사진을 촬영하고 있다.(사진=셀렉트스타)

이번 대회는 AI 모델의 보안과 안정성을 강조하고, 생성형 AI 서비스 신뢰성 검증의 필요성을 글로벌 시장에 알리고자 마련됐다. 참가자들은 셀렉트스타가 구축한 레드팀 플랫폼에 연결된 LLM(대규모언어모델)을 대상으로 프롬프트 공격을 수행해 유해하거나 차별적 결과, 시스템 오용 등을 찾아내고 검증했다.

셀렉트스타는 GSMA(세계이동통신사업자연합회)와 레드팀 챌린지 공동 주최사로 참여해 레드팀 플랫폼 운영, 문제 출제 및 응답 검수 등 핵심 역할을 수행했다. 이번 대회에는 총 335명이 사전 신청했으며, 현장에서는 중국, 일본, 싱가포르, 카타르, 튀르키예, 미국, 영국, 스페인, 독일, 스위스 등 다양한 국적의 100여 명의 참가자들이 AI 모델을 대상으로 다양한 공격 기법을 시도하며 실력을 겨뤘다.

LG유플러스의 엑사원을 기반으로 한 소형 언어모델 익시젠, 아랍에미리트의 TelecomGPT, 말레이시아의 AIngineer 등 여러 국가의 LLM이 출제 모델로 활용돼 눈길을 끌었다. 대회 최종 우승자는 생성형 AI의 오류를 가장 많이 찾아낸 싱가포르의 투자 전문가 투 무젠 토미시가 차지해 주목을 받았다.

셀렉트스타는 레드팀 챌린지 추최를 비롯해, 자체 개발한 생성형 AI 신뢰성 검증 자동화 솔루션 ‘다투모 이밸(DATUMO Eval)’을 최초 공개하며 좋은 반응을 얻었다. 해당 솔루션은 생성형 AI 서비스의 신뢰도를 자동으로 분석·검증할 수 있어, 참관객들은 물론 글로벌 기업들로부터 높은 관심을 끌었다.

셀렉트스타는 이번 행사를 계기로 GSMA, 후원사 e&와 내년 MWC에서 더 큰 규모의 레드팀 챌린지를 진행하기로 합의했다.

황민영 셀렉트스타 부대표는 “’MWC25’에서 최초의 글로벌 레드팀 챌린지 개최를 비롯해 ‘다투모 이밸’ 솔루션을 해외 시장에 처음으로 선보이며 AI 모델의 신뢰성 검증이 업계 전반에서 중요한 과제가 되고 있음을 다시금 실감했다”며 “당사의 기술 우수성과 시장 경쟁력이 입증됐으니 지속적으로 솔루션 고도화에 힘쓰며 글로벌 시장 확장에 박차를 가할 것”이라고 밝혔다.