|
계약 직후 오픈AI 내부와 온라인에서는 “대규모 감시 도구로 악용될 수 있다”는 비판이 제기됐다. 샘 올트먼 오픈AI 최고경영자(CEO)는 주말 온라인 질의응답에서 “서두른 발표가 기회주의적이고 허술해 보였을 수 있다”고 인정했다.
이에 오픈AI는 계약서에 추가 조항을 넣기로 했다. 수정안에는 “AI 시스템을 미국 시민권자 및 거주자에 대한 의도적인 국내 감시에 사용하지 않는다”는 내용이 포함된다. 상업적으로 취득한 개인 식별 정보를 활용한 추적·모니터링도 금지된다.
또 미 국가안보국(NSA) 등 정보기관은 당분간 계약 대상에서 제외하기로 했다.
올트먼 CEO는 기존 미국 법체계를 신뢰한다고 밝혔지만, 동시에 AI가 대규모 데이터 수집에 활용될 수 있다는 우려도 인정했다. 그는 “이 문제는 매우 복잡하며 명확한 소통이 필요했다”고 말했다.
이번 논란은 앤스로픽과의 대비 속에서 더 커졌다. 앤스로픽은 자사 AI 모델을 △미국 내 대규모 감시 △인간 통제 없는 치명적 자율무기 등에 사용하지 않는다는 ‘레드라인’을 요구했다. 그러나 국방부와의 협상은 계약 문구를 둘러싼 이견으로 결렬됐다.
특히 국방부는 ‘합법적 범위 내 모든 용도(all lawful use)’에 AI 모델을 사용할 수 있어야 한다는 입장이었지만, 앤스로픽은 현행 법률만으로는 대규모 감시를 충분히 제한하지 못한다고 주장해왔다.
이후 트럼프 행정부는 앤스로픽에 대한 정부 계약 중단 가능성을 시사했고, 일부 정부 기관은 실제 계약 종료를 발표했다.
FT는 오픈AI가 이번 계약에서 기술적 통제장치를 병행한다고 전했다. 군 장비에 직접 설치하는 방식이 아니라 클라우드 기반으로만 모델을 제공하고, 내부 직원이 활용 과정에 관여하는 구조를 유지한다는 설명이다.
다만 AI의 군사 활용 범위와 개인정보 보호 사이의 경계 설정을 둘러싼 논쟁은 계속될 전망이다.
