|
CNBC가 단독 입수한 법안 요약본에 따르면 ‘AI 인간통제법’으로 이름 붙인 이 법안은 스스로를 반복적으로 개선하거나, 핵심 목표·격리 장치·작동 중지 장치를 자율적으로 바꾸는 AI 모델을 연방 안전장치가 마련되고 담당 기관의 승인을 받기 전까지 금지한다.
법안은 오픈AI와 앤스로픽, 구글 딥마인드, xAI 등의 최첨단 AI 모델을 전담할 연방기관 신설도 담았다. 이 기관은 안전 규정 제정, 모델 훈련·배포를 승인하는 면허제 운영, 최첨단 AI 모델 감사, 지속적 테스트와 실효적 인간 통제를 위한 보안 기준 마련 등을 맡는다.
모든 최첨단 AI 연구소에는 독립 감사관이 상주하며 기관에 직접 보고해야 한다. 기관은 외부와 격리된 시험 환경(샌드박스), 시험 환경을 인터넷과 분리하는 ‘에어갭’, 긴급 작동 중지 장치인 ‘킬스위치’, AI 모델이 연구소를 빠져나가 인터넷을 떠돌지 못하게 막는 통제 장치 등의 기준도 만든다. AI 연구소가 쓰는 첨단 반도체의 사용을 감시·통제하는 체계도 규제 대상이다.
처벌 조항도 새로 담겼다. AI 모델 배포로 민간인 집단이 파괴되면 ‘반인도적 범죄’로 처벌하고, 안전장치나 킬스위치, 기록·격리 시스템을 무력화하거나 승인받지 않은 시스템을 고의로 배포한 AI 기업 직원도 형사처벌한다. AI 기업은 모델을 출시하려면 대규모 배상책임보험에 가입해야 한다. 중국 등 적대국이 위험한 AI를 개발하지 못하도록 구속력 있는 협정과 표적 수출통제를 추진하라는 내용도 포함됐다.
칸나 의원은 이 법안이 지금까지 나온 것 가운데 “가장 포괄적인 AI 안전 법안”이라고 힘주어 말했다. 또 대형 AI 기업 경영진의 요구가 아니라 비영리 AI 안전단체인 모델평가·위협연구(METR), 기계지능연구소(MIRI), 팰리세이드리서치 등과의 대화를 바탕으로 만들었다고 설명했다. 그는 “AI 안전 진영은 공상과학(SF)으로 치부되며 부당하게 무시당해 왔다”며 “이 논쟁을 이끌어야 하는 건 최첨단 AI 연구소 경영진이 아니라 AI 안전 진영”이라고 주장했다.
이번 법안은 AI 기업 최고경영자(CEO)들이 기술이 통제 불능 상태에 빠질 수 있다고 경고하면서 규제 목소리가 커지는 가운데 나왔다. 그러나 의회는 지금까지 AI 규제에 사실상 손을 놓고 있었다. 앞서 공화당 제이 오버놀트 하원의원과 민주당 로리 트레이핸 하원의원도 최첨단 AI 연구소에 독립 감사관을 두고, 재앙적 위험이 있는 모델은 정부가 중단시킬 수 있도록 하는 초당적 ‘프런티어법’을 발의했다.
다만 하원 법안들은 오는 11월 중간선거 이후에야 표결에 부쳐질 전망이다. 상원도 이번 주를 끝으로 선거 때까지 휴회에 들어갈 예정이다.
