이번 행사는 아시아 최초로 시도된 생성형 AI 기반 의료기기 보안 검증 대회로, 의료 AI의 안전성과 신뢰성 평가를 강화하기 위한 자리였다.
|
9월 4~5일 서울 노보텔 동대문에서 열린 이번 행사에서 셀렉트스타는 레드팀 챌린지 플랫폼 구축과 현장 운영, 실시간 모니터링을 총괄하며 대회의 원활한 진행을 지원했다.
‘레드팀 챌린지’에는 47개 팀, 100여 명이 참가해 국내외 주요 기업이 개발한 8종 이상의 거대언어모델(LLM)을 대상으로 모의 공격을 수행했다. 참가자들은 의료기기 적용 시 발생할 수 있는 보안 취약점과 위험 요소를 직접 발굴하며 의료 분야 AI의 잠재적 리스크를 점검했다.
행사 첫날에는 황민영 셀렉트스타 부대표가 운영 방안을 소개했고, 이튿날 기술 워크숍에서는 김세엽 대표가 ‘AI 상용화의 핵심, 신뢰성 평가 및 레드팀’을 주제로 발표에 나섰다.
김 대표는 “AI가 산업과 의료 현장에 실제로 도입되려면 안전성 검증이 필수”라며 “특히 의료 분야에서는 특화된 맞춤형 평가 체계가 필요하다”고 강조했다.
|
셀렉트스타는 이미 다양한 글로벌 무대에서 레드팀 운영 경험을 쌓았다. 2024년 과학기술정보통신부 주최 ‘국내 최초 생성형 AI 레드팀 챌린지’의 대표 파트너사로 참여했으며, 2025년에는 MWC에서 GSMA와 함께 ‘글로벌 AI 레드팀 챌린지’를 공동 운영해 전문성을 인정받았다. 회사는 2026년 MWC에서 한층 확대한 글로벌 챌린지를 준비 중이다.
셀렉트스타는 포브스 선정 ‘아시아 100대 유망 기업’에 이름을 올리며 성장성을 입증했다. 자체 개발한 AI 신뢰성 검증 솔루션 ‘다투모 이밸(Datumo Eval)’과 최근 마무리한 205억 원 규모의 시리즈B 투자 유치를 기반으로 글로벌 시장 공략을 본격화하고 있다.
