셀렉트스타, 세계적 NLP 학회 ‘EMNLP 2026’서 AI 신뢰성 연구 5편 채택

[이데일리 윤정훈 기자]AI 데이터·신뢰성 평가 전문기업 셀렉트스타는 자사 연구진이 참여한 AI 신뢰성 및 안전성 관련 연구 논문 5편이 세계적 자연어처리(NLP) 학회인 ‘EMNLP 2026’에 채택됐다고 28일 밝혔다.

(사진=셀렉트스타)

EMNLP(전산언어학회)는 경험적 방법론과 검증을 기반으로 한 세계 최고 권위의 자연어처리 학술대회다. 올해 학회는 오는 10월 24일부터 29일까지 헝가리 부다페스트에서 열린다.

이번에 채택된 논문은 메인 콘퍼런스 1편, Findings 1편, 워크숍 논문 3편이다. 올해 EMNLP 메인 콘퍼런스는 약 1만 8000편의 제출 논문 중 단 15.4%만 통과했다.

인간 오답 패턴 분석부터 가드레일 오판 교정까지

메인 콘퍼런스에 채택된 ‘When Accuracy Aligns and Fails’(공동 주저자 최혜지 연구원) 논문은 AI가 문제를 맞히는 것뿐만 아니라, 틀릴 때도 사람과 유사한 오답을 선택하는지를 정량적으로 분석한 프레임워크를 제시했다. 셀렉트스타는 이를 19종 AI 안전성 분류체계와 결합해 국가별 문화적 특성을 반영한 벤치마크로 확장할 계획이다.

Findings에 채택된 ‘Guard Models Are Overconfident Where Base Models Are Uncertain’(주저자 홍종현, 교신저자 김민우 AI Safety팀 리더) 논문은 위험 판별 모델(가드 모델)의 과도한 확신이 불러오는 오판 문제를 짚었다.

셀렉트스타는 판단 결과와 오판 위험을 동시 반영해 소형언어모델(sLM) 기반 가드레일 기준을 정교하게 조정하는 기술로 발전시킬 예정이다.

워크숍 영역에서도 김민우 리더가 교신저자로 참여한 3편의 공동연구가 채택됐다.

금융 자연어처리 워크숍(FinNLP)에서는 금융보안원과 공동 연구한 2편이 선정됐다. 레드팀 공격의 미차단 사례를 학습해 방어 정책을 자동으로 개선하는 기술, 그리고 연결 페이지 추적을 통해 실제 피싱 행위를 판별하는 연구다.

PANDORA 워크숍에서는 이화여자대학교와 공동 연구한 라틴아메리카 4개국 현지화 레드팀 연구(LatAm-RT)가 구두발표 논문으로 선정됐다.

셀렉트스타는 이번 연구 성과를 자사 AI 신뢰성 검증 플랫폼인 ‘다투모 플랫폼(Datumo Platform)’에 적용해 산업별·국가별 AI 안전성 평가 기술 고도화에 적극 활용할 방침이다.

김세엽 셀렉트스타 대표는 “이번 EMNLP 논문 채택은 셀렉트스타의 AI 신뢰성 평가와 안전성 연구 역량을 국제 학술 무대에서 인정받았다는 점에서 의미가 있다”라며 “연구 성과를 셀렉트스타의 평가·레드티밍·가드레일 기술과 연결해 기업이 실제 서비스 환경에서 활용할 수 있는 AI 신뢰성 검증 체계로 발전시키겠다”고 말했다.