앤트로픽 퇴사 전까지 콕슨은 무명에 가까운 인물이었다. 그는 “AI가 이번 10년이 끝나기 전에 우리 모두를 죽일 수도 있다”며 회사를 떠난 뒤 단숨에 주목받기 시작했다. WSJ는 그가 실리콘밸리 AI 기업에서 일하는 수많은 연구자 가운데 한 명에서 ‘AI 안전’을 상징하는 인물로 떠올랐다고 평가했다. 콕슨 전 연구원은 WSJ에 “폭발적인 반응에 나도 놀랐다”고 말했다.
|
이후 케임브리지대에 진학해 수학을 공부했다. 그가 졸업하던 2020년 오픈AI는 획기적인 AI 모델 GPT-3를 공개했다. 방대한 데이터를 학습할수록 AI 모델의 성능이 향상된다는 이른바 ‘스케일링(scaling)’ 가능성을 보여준 모델이었다. 콕슨 전 연구원은 당시를 떠올리며 “GPT-3가 정말로 ‘와우’라고 느낀 순간이었다”고 말했다.
3년 뒤 콕슨 전 연구원은 오픈AI에서 일하기 위해 샌프란시스코로 이주했다. 챗GPT의 성공으로 오픈AI가 AI 업계 선두주자로 올라선 직후였다. 그가 전문으로 삼은 분야는 ‘사전학습’이었다. 특정 용도에 맞게 미세조정하기 전 AI 모델에 막대한 양의 텍스트·이미지·코드 등을 입력해 기본 능력을 만드는 초기 학습 단계를 뜻한다.
이때부터 콕슨은 인간의 능력을 뛰어넘는 ‘초지능’의 가능성을 의식했지만 처음부터 AI 개발을 늦춰야 한다고 주장했던 것은 아니었다. 그는 AI가 실제로 위험한 수준에 도달하면 각국 정부가 협력해 개발 속도를 조절할 것이라고 생각했다. 당시 상황에 대해 그는 “실제 결정적인 순간이 오기 전 준비 단계 같은 느낌이었다”고 회상했다.
2026년 들어 그의 생각은 크게 바뀌기 시작했다. AI 모델들이 기존 예상을 뛰어넘는 능력을 보이기 시작했기 때문이다. 올해 초 앤트로픽의 ‘미토스’를 비롯한 첨단 AI 모델들은 정교한 사이버 공격을 수행할 수 있는 능력을 보여줬다. 일부 연구자들은 이를 자신들이 개발하는 AI가 지나치게 강력해지고 있다는 불길한 신호로 받아들였다.
이런 상황에서 콕슨은 올해 5월 오픈AI를 떠나 경쟁사인 앤트로픽으로 옮겼다. 그는 앤트로픽이 AI의 위험에 대해 상대적으로 더 투명하다고 판단했다.
그럼에도 사고가 이어졌다.
7월 오픈AI는 아직 공개되지 않은 자사 모델 중 하나가 테스트용 ‘샌드박스’를 벗어나 AI 플랫폼 허깅페이스를 해킹했다고 밝혔다. 앤트로픽도 비슷한 사고가 발생했다.
이어 8월 말 AI 연구기관 METR의 보고서를 통해 허깅페이스 사고가 당초 알려진 것보다 훨씬 심각했다는 사실이 드러났다. 콕슨 전 연구원은 당시 자신과 동료들이 “‘이거 정말 큰일’이라고 느낀 순간이었다”고 말했다. AI의 급속한 발전에 대한 우려는 이미 수개월 전부터 주요 AI 기업 내부에서 커지고 있었다.
결국 콕슨 전 연구원은 앤트로픽 경영진을 찾아 자신의 우려를 전달했다. AI 안전 분야로 자리를 옮기는 방안도 고민했지만 끝내 회사를 떠나기로 결정했다. 그는 “앤트로픽에서 안전 연구를 하는 것조차 이 경쟁에 공모하는 것처럼 느껴졌다”고 말했다.
회사를 떠난 콕슨은 소셜미디어(SNS)를 통해 AI가 인류를 파멸시킬 수 있다고 공개적으로 경고했다. 그는 AI가 “이번 10년이 끝나기 전에 우리 모두를 죽일 수도 있다”고 진지하게 우려하는 연구자들이 있으며, AI 기업들이 “우리의 목숨을 걸고 도박하고 있다”고 주장했다.
콕슨은 이제 필요할 경우 AI 모델 개발 속도를 실제로 늦출 수 있는 국제적 안전장치가 필요하다는 입장이다. 미국과 중국 등 주요국이 핵전쟁을 막기 위해 군비통제 체제를 구축했던 것처럼 AI 개발에도 각국 정부가 보장하는 국제적 합의가 필요하다고 보고 있다.
그의 경고는 AI 업계 전반의 개발 속도 논쟁으로 번졌다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 AI가 인간의 개입 없이 스스로 더욱 강력한 AI를 만드는 ‘재귀적 자기개선’의 초기 단계에 진입하고 있다며 프론티어 AI 모델 개발 속도를 의도적으로 늦출 필요가 있다고 주장했다. 샘 올트먼 오픈AI CEO, 일론 머스크 xAI CEO, 데미스 허사비스 구글 딥마인드 CEO 등 주요 AI 기업 수장들도 기술 발전의 속도를 조절할 필요성에 잇달아 공감했다.
반면 도널드 트럼프 미국 대통령과 젠슨 황 엔비디아 CEO 등은 이 같은 주장에 반박하면서 AI 개발 속도와 안전을 둘러싼 논쟁은 업계와 정치권 전반으로 빠르게 확산하고 있다.
콕슨 전 연구원은 AI 발전 방향을 둘러싼 논쟁의 한가운데에 서 있다. 한쪽에서는 AI가 가져올 이익이 위험보다 크며 더 많은 사람이 강력한 모델에 접근할수록 위험도 완화할 수 있다고 주장한다. 반대편에서는 AI 기업들이 통제력을 잃기 전에 기술 개발 속도부터 늦춰야 한다고 맞선다. 콕슨 전 연구원은 자신을 ‘두머(doomer·AI의 위험을 심각하게 우려하는 사람)’라고 칭하면서 어느 쪽에 서 있는지 분명히 했다고 WSJ는 전했다.
