|
![[본 이미지는 AI 기술을 활용해 제작되었습니다.]](https://image.edaily.co.kr/images/photo/files/NP/S/2026/09/PS26091501719.jpg)
CNBC는 15일(현지시간) 현대 AI 기술 발전에 핵심적인 역할을 한 요슈아 벤지오 캐나다 몬트리올대 교수, 제프리 힌턴 토론토대 명예교수, 에이단 고메즈 코히어 최고경영자(CEO)의 최근 발언을 통해 이들이 바라보는 AI의 잠재적 위험을 정리했다.
벤지오 “AI, 해킹·설득 능력 이미 갖췄다”
현대 딥러닝의 선구자로 꼽히는 벤지오 교수는 AI가 초래할 수 있는 위험 가운데 일부는 더 이상 미래의 가정에 그치지 않는다고 경고했다.
벤지오 교수는 최근 자신의 블로그에서 오늘날 AI 시스템이 이미 인간의 이익에 반하는 방향으로 악용될 수 있을 정도의 해킹 능력과 설득 능력을 갖추고 있다고 지적했다. 그는 AI가 수일 또는 수주에 걸쳐 계획을 세울 수 있는 능력까지 보이고 있다며 장기 전략 수립 능력이 더욱 향상되면 위험이 훨씬 커질 수 있다고 우려했다.
그는 AI 기업들이 현재 사용하는 ‘정렬(alignment)’ 방식에도 한계가 있을 수 있다고 지적했다. 인간이 원하는 방향으로 행동하는 AI에 보상을 주는 방식이 AI의 잘못된 행동 자체를 제거하기보다 들키지 않고 속이는 AI를 선택하는 결과를 가져올 가능성이 있다는 것이다.
벤지오 교수는 이에 따라 AI의 행동뿐 아니라 사고 과정과 신경망 내부 활동까지 보다 효과적으로 감시하는 연구가 필요하다고 강조했다.
|
AI 신경망과 딥러닝 발전의 선구자인 힌턴 교수의 경고는 더 직접적이다.
그는 지난 10일 BBC와의 인터뷰에서 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10% 이상이라고 보느냐는 질문에 정확한 확률을 계산하는 것 자체가 매우 어렵다고 전제했다. 인류가 자신보다 더 똑똑해질 가능성이 있는 존재를 만들어본 경험이 없기 때문이다.
그러면서도 그는 10%라는 확률이 “불합리한 추정은 아니다”는 취지로 답했다. 다만 “누구도 합리적인 추정치를 어떻게 산출해야 할지 알지 못한다”고 덧붙였다. 즉 ‘10%’를 과학적으로 산출된 확률로 제시한 것은 아니라는 의미다.
힌턴 교수가 우려하는 것은 초지능 자체보다 그것이 확보할 수 있는 구체적인 공격 수단이다. 그는 AI가 매우 위험한 생물학적 바이러스나 컴퓨터 바이러스를 설계하고 파괴적인 사이버 공격을 수행할 가능성을 거론했다.
그는 결국 두 가지 미래가 가능하다고 봤다. AI의 위험이 통제불능 상태에 빠지기 전에 인간이 대응 방법을 찾아내거나, 그렇지 못하는 경우다.
|
2017년 현대 생성형 AI의 핵심 기술인 트랜스포머 구조의 토대를 놓은 논문 ‘어텐션만 있으면 된다(Attention Is All You Need)’의 공동저자인 고메즈 CEO는 보다 현실적인 사이버보안 위험에 주목한다.
그는 최근 CNBC 팟캐스트에서 현재 AI 모델을 지금까지 만들어진 것 가운데 “가장 강력한 사이버무기”라고 평가했다. AI가 대규모로 시스템의 취약점을 찾아내고 이를 공격하는 데 탁월한 능력을 보이고 있다는 이유에서다.
다만 고메즈 CEO의 진단은 AI 자체가 필연적으로 인간의 통제를 벗어난다는 주장과는 다소 차이가 있다. 그는 최근 AI와 관련된 사이버보안 사고들을 근거로 AI의 안전성을 좌우하는 핵심 요소 가운데 하나가 실제 시스템이 배치되는 환경의 보안이라고 강조했다.
AI가 스스로 통제에서 벗어나려는 본질적 성향 때문에 사고가 발생한다기보다 취약한 보안 환경이 AI가 주어진 통제 범위를 벗어나는 사고를 가능하게 한다는 설명이다. 따라서 모든 AI 시스템을 동일한 위험으로 취급하기보다 모델과 사용 환경에 따라 위험을 구분해 규제해야 한다고 주장했다.
|
AI 선구자들의 경고가 주목받는 것은 최근 AI 업계 내부에서 안전 문제에 대한 우려가 잇따라 제기되고 있기 때문이다. 앤스로픽과 오픈AI 연구진을 중심으로 고도화된 AI가 인간의 통제를 벗어날 가능성을 경고하는 목소리가 커졌다. 오픈AI 수석과학자 야쿠브 파초키도 최근 AI 에이전트의 능력이 빠르게 발전하는 상황에서 사회가 그 결과에 충분히 대비하지 못하고 있다며 개발 속도 조절과 안전장치의 필요성을 제기했다.
논쟁은 워싱턴으로 번지고 있다. 미 상원에서는 AI 기업들에 자사 모델의 재앙적 위험을 막기 위한 안전조치 입증을 요구하고 정부가 이를 검증할 수 있도록 하는 방안이 논의되고 있다. 공화당과 민주당 의원들이 논의에 참여하고 있지만 규제의 필요성과 강도를 둘러싼 견해차는 여전히 크다.
도널드 트럼프 미국 대통령은 지난 14일 AI에 대한 추가적인 규제 요구에 반대 입장을 밝혔다. 반면 AI 기술을 직접 개발해온 일부 연구자와 기업 경영자들은 경쟁이 안전을 압도해서는 안 된다며 개발 속도 조절과 감독 강화를 요구하고 있다.
전문가들의 경고가 AI가 실제로 인류를 파괴할 것이라는 예측을 의미하는 것은 아니다. 오히려 공통점은 위험의 확률을 정확히 알 수 없는 상황에서 AI의 능력이 빠르게 발전하고 있다는 데 있다. 특히 해킹과 사이버 공격처럼 이미 확인되고 있는 위험부터 장기적으로 인간의 통제를 벗어날 가능성까지 위험의 층위가 다양한 만큼 AI 개발 경쟁과 함께 이를 감시하고 통제할 기술과 제도 역시 발전시켜야 한다는 지적이다.
|
