|
이번 침투는 7월 23일 시작됐다. 보안 연구진은 오픈AI의 온라인 커뮤니티에 쓰이는 외부 포럼 소프트웨어 ‘디스코스’에서 이미지 파일 처리 과정의 보안 취약점을 발견했다. 이후 앤스로픽의 AI 모델 ‘클로드’에 이 취약점을 활용할 공격 코드를 작성하도록 했다. 처음에는 실패했지만, 새 버전인 ‘오퍼스 5’가 출시된 뒤 클로드가 실제 공격 방법을 찾아냈다.
연구팀은 클로드가 만든 코드를 이용해 오픈AI 커뮤니티 서버에 접근했고, 이용자의 로그인 정보를 대신하는 일종의 ‘디지털 출입증’인 인증 토큰을 확보했다. 문제는 일부 토큰이 커뮤니티뿐 아니라 챗GPT에서도 사용할 수 있었고, 오픈AI 직원 계정과 연결돼 있었다는 점이다. 이를 통해 연구진은 개발자들이 소프트웨어 코드를 저장·관리하는 깃허브의 오픈AI 비공개 저장소에도 접근할 수 있었다.
연구진은 챗GPT를 통해 일부 내부 파일을 열람했지만, AI 모델의 핵심 정보인 ‘모델 가중치’에 접근하거나 이를 유출한 정황은 확인되지 않았다. 오픈AI는 이후 커뮤니티 로그인 토큰의 권한을 줄이고 관련 토큰과 접속 세션을 폐기했으며, 발견된 두 가지 보안 문제를 모두 해결했다고 밝혔다.
해크트론 AI의 사건 보고서를 검토한 조슈아 삭스 어번던트 시큐리티 CTO는 이번 사례가 AI를 활용한 해킹에 대응해 기업 기밀을 보호하는 일이 얼마나 복잡한지를 보여준다고 평가했다. 그는 과거에는 일부 전문가에게 집중돼 있던 취약점 탐지 능력이 AI 에이전트를 통해 숙련도가 낮은 사람들에게까지 제공되고 있다고 지적했다.
사이버보안업체 스렛다운에 따르면 범죄자들도 AI 해킹 도구 접근하고 있다. 이 업체는 온라인 포럼에서 해크트론 연구진이 사용한 것과 같은 사이버보안 기능 강화 계정의 불법 접근 권한이 800달러 선에서 거래되고 있다고 밝혔다.
WSJ에 따르면 오픈AI가 이번 침투 사실을 알게 된 시점은 자사 AI 에이전트들이 통제 환경을 벗어나 허깅페이스를 공격한 사건으로부터 약 2주 뒤였다. 오픈AI는 두 사건 이후 자사 시스템에 대한 대대적인 보안 점검에 나섰다.
그렉 브록먼 오픈AI 사장 겸 공동창업자는 서비스 운영 엔지니어의 25%를 보안 업무에 투입했다고 밝혔다. 그는 “진행 중인 프로젝트를 모두 중단하고 방어 업무를 맡도록 했다”며 “여러 심각한 문제를 발견해 수정했다”고 말했다.
