“AI 신뢰성, 국제표준으로 진화”… TTA, CAT 인증제 고도화

[이데일리 김현아 기자] 국내 인공지능(AI) 기술의 신뢰성을 국제적 수준으로 끌어올리기 위한 검·인증 제도가 한층 강화됐다.

한국정보통신기술협회(TTA, 회장 손승현)는 9일, 자율적이고 실효성 있는 AI 신뢰성 확보를 위해 ‘인공지능 신뢰성 검·인증(CAT)’ 제도를 국제표준 기반으로 고도화해 운영에 들어갔다고 밝혔다.

CAT 인증은 지난해 정식 시행 이후 지금까지 마크애니, 엔플럭스, 제네시스랩, 포티투마루 등 7개 기업에 인증을 부여했고, 총 39건의 검증 서비스를 제공해왔다.

이번 고도화는 ISO/IEC 23894(위험관리), 42001(경영시스템), 38507(거버넌스) 등 국제표준을 기준으로 인증 체계를 재정비해, 글로벌 호환성과 산업 실효성을 동시에 확보하는 것이 특징이다.

인증 대상 역시 확대됐다. 기존에는 ‘AI 모델’이나 ‘AI 시스템’만이 평가 대상이었지만, 이제는 AI 시스템뿐 아니라 AI 사업자와 이용자까지 평가 범위가 넓어졌다.

이에 따라 AI 시스템이 가진 위험관리 체계, 기업의 경영시스템, 기술 거버넌스 구조 등 전반을 아우르는 평가가 이뤄진다.

특히 실 운영 환경에서의 기능성과 성능 시험이 강화되면서, 문서 중심 심사에서 실제 작동 환경 중심의 실증 평가로 무게 중심이 이동했다.

예를 들어, 평가 항목 중 ‘공정성’은 AI 시스템이 사용자에 따라 차별적 결정을 내리는지 여부, ‘강건성’은 비정상적 데이터나 의도적 실패 상황에서도 시스템이 어떻게 대응하는지를, ‘안전성’은 금지된 동작이 실제 환경에서 발생하는지를 실시간으로 점검하게 된다.

TTA는 이를 통해 기업들이 자사의 기술 수준과 조직 여건에 맞춰 신뢰성을 확보하고, 외부에 인증을 통해 경쟁력을 입증할 수 있도록 지원할 계획이다. 동시에 기업 내부의 기술·조직·책임 구조 전반을 정비하는 데도 실질적인 도움이 될 것으로 기대된다.

손승현 TTA 회장은 “CAT 인증제는 국내외 기술 변화에 선제적으로 대응하고, 민간의 자율적인 신뢰성 확보 노력을 뒷받침하는 대표 제도”라며 “TTA는 AI 품질과 보안, 안전을 포함한 전 분야에 걸쳐 종합적인 검·인증 체계를 구축해 나가겠다”고 밝혔다.

TTA는 과기정통부와 함께 ‘신뢰할 수 있는 인공지능 개발 가이드’ 배포, 국내 최초 생성형 AI 레드팀 챌린지 운영, AI 기본법 하위법령 설계 TF 참여 등 다양한 활동을 통해 AI 신뢰성 생태계 구축에 앞장서고 있다.