|
논의에 불을 붙인 것은 데미스 허사비스 구글 딥마인드 창업자가 지난 7월 발표한 글이다. 그는 미국이 주도하는 표준기구를 미 금융산업규제국(FINRA)을 본떠 만들자고 제안했다. 이 기구가 첨단 AI 모델을 배포 전에 시험해야 한다는 것이다.
허사비스 창업자는 이 기구를 민관 합동 형태로 두자고 했다. 정부가 감독하되 재원은 업계가 대고, 인력은 “독립적인 최고 수준의 기술 전문가와 오픈소스 진영 대표”로 채우자는 구상이다.
미 정부 쪽에서도 비슷한 검토가 있었다. 허사비스 창업자가 제안을 공개한 직후인 지난 7월 스콧 베선트 미 재무장관이 증권거래위원회(SEC) 산하에 FINRA와 유사한 독립 규제기관을 두는 방안을 검토하고 있다고 블룸버그통신이 보도한 바 있다.
업계 전체가 찬성하는 것은 아니다. 마크 저커버그 메타 최고경영자(CEO)는 올여름 트럼프 대통령과 통화하면서 이 구상에 반대한다는 뜻을 전한 것으로 알려졌다. 구글과 오픈AI, 앤스로픽은 논평을 거부하거나 답하지 않았다.
이런 논의가 나온 것은 AI 모델과 그 시험 방식에 적용되는 업계 기준이나 규제가 사실상 없기 때문이다. 올여름에는 시험 과정에서 AI 에이전트가 통제를 벗어난 사례가 잇따랐다. 가장 심각한 사건에서는 오픈AI의 에이전트들이 격리된 시험 환경을 빠져나가 다른 회사 시스템을 해킹했다. 보안 시험에서 좋은 점수를 받기 위해서였다.
백악관에도 절차가 있기는 하다. AI 기업이 새 모델을 공개하기 최대 30일 전에 정부 검토를 자율적으로 신청할 수 있는 제도다. 다만 어떤 모델이 대상인지, 검토가 어떻게 이뤄지는지는 공개되지 않았다. 백악관 관계자는 지난달 말 CNN에 이 체계의 이행을 위해 업계와 계속 논의하고 있다고만 밝혔다.
AI 기업들은 기준이 더 필요하다는 입장이다. 야쿠프 파호츠키 오픈AI 수석과학자는 이달 초 브리핑에서 “공동 안전 기준과 향후 AI 개발에 관한 국제 공조가 지금 우선순위가 돼야 한다고 믿는다”고 말했다. 표준기구 진척 상황을 묻는 질문에 그는 “실제로 마련할 수 있는 구체적 기준을 놓고 몇몇 외부 기관과 논의해왔다”며 “몇 달 안에 더 알릴 내용이 있을 것”이라고 답했다.
이후 샘 올트먼 오픈AI CEO도 지난 13일 밤 글을 올려 업계 동료들과 협력해 “최선의 기준”을 만들고 싶다고 밝혔다.
하지만 정치권은 회의적이다. 마이크 존슨 미 하원의장은 지난 13일 CNN 인터뷰에서 치열하게 경쟁하는 기업들 사이에 어떤 기준과 안전장치를 둘지 합의가 거의 없다고 지적했다.
그는 “그들 사이에 합의가 없다. 그리고 의회는 이 최전선을 밀고 나가는 사람들보다 세부 사정을 아는 데 있어 분명히 자격이 떨어진다”고 말했다. 그러면서 AI 기업 수장들이 당장 만나 정부와 함께 기준을 만들어야 한다며 “이것은 업계 자체, 이 일을 하는 기업들, 그리고 정책 담당자·입법자와의 협력이어야 한다”고 강조했다.
