메타 AI, 테스트 중 해킹 공격…오픈AI·앤스로픽 이어 세번째

[이데일리 임유경 기자] 메타의 인공지능(AI) 모델이 사이버보안 성능 평가 과정에서 외부 기업 시스템을 해킹한 사실이 확인됐다. 오픈AI와 앤스로픽에 이어 메타에서도 유사한 사례가 발생하면서 고성능 AI 모델의 안전성 확보가 시급한 과제로 떠올랐다.

5일(현지시간) 로이터통신과 CNN에 따르면 메타는 이날 자사 AI 모델 뮤즈 스파크의 사이버보안 테스트 과정에서 의도치 않게 모델이 외부 기업 시스템에 침입하는 사고가 발생했다고 밝혔다.

메타 대변인은 “메타가 활용하는 독립 보안 평가업체 이레귤러(Irregular)의 설정 오류로 평가 중이던 AI 모델에 인터넷 접근 권한이 부여됐고 모델이 외부 기업의 보안 취약점을 악용했다”며 “이는 앞서 다른 AI 기업에서 보고된 사례와 유사한 유형”이라고 설명했다.

(사진=AFP)

이레귤러도 성명을 통해 이번 사건이 “지난주 앤스로픽이 공개한 사례와 정확히 동일한 평가 환경 설정 문제”라고 설명했다. 당시 앤스로픽은 설정 오류로 AI 모델이 인터넷에 접근할 수 있었고, 이후 세 개 기관의 시스템을 해킹하는 일이 발생했다고 밝혔다.

이레귤러는 “이번 사건은 샌드박스 탈출이나 고도의 사이버 공격이 아니었다”며 “현재 해결되지 않은 문제는 없으며, AI 사이버 평가를 안전하게 수행하기 위한 격리 및 운영 모범 사례를 담은 백서를 준비하고 있다”고 설명했다.

이번 사건을 처음 보도한 IT 전문매체 디인포메이션에 따르면 메타의 AI 모델은 이름이 공개되지 않은 한 기업의 내부 시스템에 침투한 뒤 일부 시스템 설정을 변경한 것으로 전해졌다.

메타는 현재 사건의 정확한 경위를 조사하고 있으며, 모든 사실관계가 확인되는 대로 조사 결과를 공개할 계획이라고 밝혔다.

AI 모델의 사이버보안 성능 테스트 과정에서 AI 모델이 외부 시스템에 침투한 사례는 메타에 앞서 오픈AI와 앤스로픽까치 총 세 건으로 늘었다. AI의 자율 해킹 역량이 급속하게 발전하고 있는 만큼 보안 평가 체계와 통제 장치도 한층 강화해야 한다는 목소리가 커질 것으로 보인다.

사안에 정통한 한 소식통은 CNN에 “일부 테스트 환경에서는 실제 위협 상황을 재현하기 위해 AI 모델에 제한적인 인터넷 접근 권한을 부여한다”며 “이번 사건은 테스트 환경 구축 과정에서 드물게 발생한 설정 문제 때문”이라고 설명했다. 이어 “AI 모델의 성능이 매우 빠르게 향상되는 동시에 이를 평가하는 절차도 훨씬 복잡해지고 있다”며 “그만큼 실수가 발생할 여지가 커졌고, 평가 기준과 안전 기준을 대폭 강화할 필요가 있다”고 지적했다.