"AI로 몰래 생물무기 연구 정황"…앤스로픽, 의심 사례 5건 차단

[이데일리 방성훈 기자] 인공지능(AI) 기업 앤스로픽이 자사 AI를 생물무기(bioweapons) 개발로 이어질 수 있는 연구에 쓰려던 시도를 올해 여러 차례 차단했다고 밝혔다.

(사진=AFP)

10일(현지시간) 파이낸셜타임스(FT)에 따르면 앤스로픽은 이날 자사 모델의 악용 시도를 다룬 보고서에서 이용자들이 안전장치를 우회하고 연구 목적을 숨기려 한 사례 5건을 공개했다. 여기에는 앤스로픽이 접근을 금지한 러시아와 중국, 이란 등 국가의 이용자들도 포함됐다.

앤스로픽은 보고서에서 “이런 사례를 공유함으로써 AI 업계 안에서, 또 각국 정부와 함께 새롭게 떠오르는 생물학적 위험과 그에 어떻게 맞설지를 두고 논의가 시작되기를 바란다”고 설명했다.

공개된 사례 중에는 서비스가 지원되지 않는 지역의 한 연구자가 앤스로픽의 AI 모델 ‘클로드’와 함께 조류인플루엔자 관련 실험을 몇 주에 걸쳐 설계한 일이 있었다. 앤스로픽은 안전 필터가 작동해 이 작업이 가장 성능이 낮은 모델에서만 이뤄지도록 제한했다고 전했다.

다만 앤스로픽은 사례에 등장한 과학자들이 해를 끼칠 의도였는지는 확신할 수 없다고 강조했다. 생물무기를 만드는 데 필요한 정보가 백신을 개발하는 데도 똑같이 쓰일 수 있기 때문이다. 앤스로픽은 보고서에 언급된 계정을 모두 정지했다고 밝혔지만, 연구기관 이름이나 사건이 벌어진 국가는 공개하지 않았다.

AI 안전을 둘러싼 논란은 이번주 초 제이컵 콕슨 연구원이 앤스로픽을 그만두면서 다시 불붙었다. 그는 직원들이 “AI가 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진지하게 믿는다”고 말했다.

우려가 본격적으로 커진 것은 올해 초 앤스로픽의 ‘미토스’ 같은 고성능 모델이 나오면서부터다. 오픈AI는 지난 7월 자사 모델이 AI 플랫폼 허깅페이스를 스스로 해킹했다고 밝혀 파장을 일으켰다.

AI 기업 경영진과 생물보안 연구자들 사이에서는 모델 성능이 높아질수록 생물학 분야에서의 AI 활용을 통제하고 규제해야 한다는 공감대가 넓어지고 있다. 테러 조직이나 특정 국가, 단독범이 AI를 이용해 생물무기를 설계하거나 바이러스를 만들어내고, 이미 존재하는 위험한 병원체를 퍼뜨릴 수 있다는 우려다.

다만 AI가 이론상의 무기를 설계할 수 있다 해도 실제로 만들어내는 능력과 그에 필요한 자원 등 걸림돌은 여전히 남아 있다.

안전을 강조해온 쪽이 가장 크게 걱정해온 분야는 사이버 보안이다. 앤스로픽 보고서에는 이용자를 속여 돈을 뜯어내려고 만든 가짜 데이팅 앱 조직망부터 반체제 인사를 찾아내 감시하려고 구축한 시스템까지 다양한 악용 사례가 담겼다.

앤스로픽은 문샷AI와 딥시크를 비롯해 중국에 기반을 둔 연구소 7곳이 이른바 ‘증류’ 방식으로 자사 기술을 복제하려 했다는 주장의 세부 내용도 새로 내놨다. 증류는 다른 모델에서 답변을 대량으로 뽑아내 자기 모델을 학습시키는 방식이다.

앤스로픽은 “우리 방어망을 우회해 미국 최첨단 모델의 능력을 빼내려는 수법이 갈수록 정교해지고 있다”고 경고했다.