|
채택된 논문은 에이전트형 AI의 안전성과 신뢰성을 다루는 AIWILD(AI in the Wild) 워크숍 1편과 생성형 AI를 문화적 관점에서 연구하는 Culture x AI워크숍 2편이다. 모두 대규모언어모델(LLM)의 안전성과 신뢰성을 높이기 위한 평가 및 학습 데이터 구축 기술을 다뤘다.
셀렉트스타는 이번 연구를 통해 기존 AI 안전성 평가 방식의 한계를 보완하는 방법론을 제시했다고 설명했다. 현재 AI 안전성 평가는 거대 언어모델에 의존하거나 영어권 데이터를 단순 번역해 사용하는 사례가 많아 실제 서비스 환경과 문화적 맥락을 충분히 반영하지 못한다는 지적을 받아왔다.
|
연구진은 커리큘럼 러닝(쉬운 과제부터 단계적으로 학습하는 방식)을 적용해 금융 등 새로운 산업 분야에서도 일관된 안전성 평가 성능을 유지할 수 있음을 입증했다고 밝혔다. 회사는 이 기술이 내부 폐쇄망 환경에서도 빠르고 정확한 AI 안전성 검증에 활용될 수 있을 것으로 기대했다.
두 번째 논문 ’Culturally-Adapted Red-Teaming Across East and Southeast Asian Contexts‘는 문화권별 레드티밍(AI의 취약점과 위험성을 의도적으로 찾아내는 검증 기법) 방법론을 제시했다.
셀렉트스타의 자체 프레임워크인 CAGE를 활용해 한국어, 일본어, 태국어, 크메르어 사례를 분석한 결과, 영어권 벤치마크(성능 평가 기준)를 단순 번역하는 방식으로는 국가별 위험 요소를 충분히 포착하기 어렵다는 점을 확인했다. 연구진은 문화적 특수성과 실제 사용 환경을 반영한 평가 데이터 구축이 필요하다고 제안했다.
세 번째 논문 ’Korean Culture into LLM Alignment: Toward Cultural Coherence‘는 한국의 사회 규범과 법·제도, 언어적 특성을 반영한 안전 정렬(AI가 인간의 가치와 규범에 맞게 답변하도록 학습시키는 기술) 데이터 구축 방법론을 소개했다.
셀렉트스타는 해당 기술이 한국 문화에 적합한 AI 응답 성능을 높이면서도 모델 성능 저하를 최소화했으며, 현재 추진 중인 독자 AI 파운데이션 모델 개발에도 활용되고 있다고 설명했다. 셀렉트스타는 SK텔레콤(017670) 컨소시엄으로 활동 중이다.
김세엽 셀렉트스타 대표는 “이번 ICML 워크숍 채택은 AI 안전성 분야의 핵심 기술 역량을 글로벌 무대에서 인정받은 성과”라며 “앞서 ACL 2026(전산언어학회)과 ICLR 2026 메인 콘퍼런스에 이어 연구 경쟁력을 입증한 만큼 신뢰할 수 있는 AI 생태계 구축을 위한 기술 개발을 지속하겠다”고 말했다.
한편 셀렉트스타는 이날 인공지능안전연구소(AISI)이 주최하는 ’제3차 AI 안전 정책 연구 세미나‘에도 참가한다. 이 자리에는 스케일AI도 연사로 참여한다. 양사는 번역 기반 AI 안전성 평가의 한계와 문화 인지형(Culture-aware) LLM 벤치마크 구축 방안을 주제로 발표할 예정이다.
|
