|
하사비스 CEO는 15일(현지시간) 자신의 소셜미디어 X(옛 트위터)에 올린 ‘프론티어 AI를 위한 프레임워크와 새로운 시대의 여명(A Framework for Frontier AI and the Dawn of a New Age)’이라는 제목의 글을 통해 이 같이 밝혔다.
그는 “AGI는 뇌가 가진 모든 인지 능력을 보여주는 시스템으로, 아마도 불과 몇 년밖에 남지 않았을 것”이라며 “우리가 앞으로 다가올 수십 년 동안 이 시기를 되돌아볼 때 특이점의 발치에 서 있었다는 것을 깨닫게 될 것”이라고 강조했다. 이어 AGI를 인터넷이나 모바일 같은 표준적 기술 돌파구가 아닌 ‘전기나 불의 발견’에 비유하며 “본질적으로 모래가 생각하게 만드는 방법을 알아낸 기적적인 일”이라고 평했다.
특히 하사비스 CEO는 “AGI는 과학과 의학을 발전시키고 엄청난 생산성 향상과 경제 성장을 주도하기 위한 궁극적인 도구가 될 잠재력을 가지고 있다”고 역설했다. 그는 AGI가 가져올 변화의 규모가 산업혁명의 10배 속도로 10배에 달할 것이라며, 약물 발견 가속화, 청정에너지원 개발, 첨단 물질 생성 등을 통해 자원의 한계가 사라지는 ‘풍요의 시대’가 올 것이라고 내다봤다.
“상업·지정학 경쟁 속 기술 진보가 이해 추월…통제력 잃지 않아야”
동시에 급격한 기술 발전에 따른 위험성도 경고했다. 그는 현재 AI 업계가 극도로 치열한 상업적·지정학적 경쟁에 갇혀 기술의 진보가 인간의 이해를 앞지르고 있다고 지적했다. 사이버 보안을 넘어 핵·생화학적 위협이 나타날 수 있으며, 스스로를 개선하는 재귀적 시스템의 통제력을 잃지 않기 위해 강력한 안전장치가 시급하다는 진단이다.
이에 대한 해법으로 하사비스 CEO는 미국이 주도하는 ‘프론티어 AI 표준 기구’ 설립 프레임워크를 제안했다. 미국의 금융산업규제기구(FINRA)를 모델로 한 민관 합동 파트너십 형태다. 독립적인 기술 전문가와 오픈소스 대표들로 이사회를 구성하고, 업계의 자금을 지원받아 세계적 수준의 기술 인재와 컴퓨팅 자원을 확보하는 구상이다.
이 기구는 국가 안보와 직면한 고위험 영역의 능력을 과학적으로 평가할 프로토콜을 개발하게 된다. 기구가 정한 벤치마크를 충족하는 모델은 ‘프론티어 급’으로 분류되며, 이를 보유한 기업이나 기관은 ‘프론티어 랩’으로 지정된다.
운영 방식으로 초기에는 출시 30일 전 모델을 표준 기구와 자발적으로 공유해 검토를 받되, 시스템이 안착하면 미국 시장 배포를 위해 통과가 필수적인 의무 조항으로 공식화하는 방안을 제시했다.
구체적인 모델 평가는 사이버 보안, 생물학적 위협 및 기타 고위험 영역에서의 능력을 다루는 엄격한 과학적 평가들로 이루어진다. 에이전트 AI 테스트의 경우, 안전 방어벽을 우회하려는 시도나 기만의 징후를 탐색하게 된다. 아울러 AI 생성 이미지에 디지털 워터마크를 삽입하고, 모델의 추론 과정을 이해할 수 있도록 인간이 읽을 수 있는 출력 토큰을 생성하는 등의 모범 사례도 보장하도록 한다.
독자적 평가 역량 구축해 과적합 방지…‘스타트업·학계’는 면제
이러한 평가 체계는 가속화하는 기술 발전에 맞춰 유연하게 조정된다. 평가 기준은 분기별 등으로 정기 업데이트되며, 무용해지거나 포화된 벤치마크는 폐기하고 대체한다. 초기에는 프론티어 랩들과 협의해 평가를 개발하지만, 궁극적으로는 데이터 과적합을 막기 위해 랩들과 독립적인 자체 보류 테스트를 생성할 수 있는 독자적 기술 역량을 확보하겠다는 구상이다. 정부와 협력해 제3자 감사인들이 평가 개발에 참여할 수 있는 생태계 활성화 방안도 담았다.
하사비스 CEO는 이 프레임워크가 기술 중심적이면서도 혁신을 지원하고 책임감 있는 행동을 유도하는 강점을 지닌다고 강조했다. 위험 수준에 따라 프론티어 랩 간의 개발 속도 조절을 조정하는 등의 단계적 강화 조치도 가능하다. 프론티어 랩 지정 자체는 개발사의 국가나 오픈·클로즈드소스 여부와 관계없이 기준을 충족하는 모든 조직에 열려 있어 일종의 명성으로 작용하겠지만, 스타트업이나 학계 등의 비프론티어 모델은 규제 대상에서 전면 제외해 혁신을 보호한다.
그는 이 미국 주도의 프레임워크가 글로벌 표준의 강력한 출발점이 될 것으로 기대했다. AI가 지구 전체에 영향을 미치는 만큼, 국제 사회가 기회를 공평하게 누리면서도 가장 심각한 위험을 공동 관리하는 합의점을 도출하도록 자극해야 한다는 제언이다.
하사비스 CEO는 “현재 AI를 둘러싸고 거대한 흥분과 불확실성이 모두 존재하며, 둘 다 타당하다”라면서도 “하지만 미래는 아직 쓰이지 않았으며, 우리는 모든 인류의 이익을 위해 이 기술을 형성하기 위해 AGI가 도래하기 전 이 소중한 창을 사용해야 한다”고 당부했다.
그러면서 “우리가 지금 집단적으로 무엇을 하느냐가 문명의 다음 단계가 어떻게 전개될지를 결정할 것”이라며 “세상 속으로 AGI를 안전하게 인도함으로써 우리는 과학적 발견과 진보의 새로운 황금기에 진입할 수 있으며, 믿을 수 없는 인류 번영의 밝은 미래를 안내할 수 있다”고 강조했다.
