'AI 대부' 얀 르쿤 "AI, 사이버 공격보다 방어에 유리"

얀 르쿤 AMI 랩스(Labs) 회장이 12일 웨스틴조선 서울에서 열린 '산업 AI 글로벌 협력' 기자간담회에서 발언을 하고 있다. (사진=한광범 기자)

[이데일리 한광범 기자] 국내 금융권에서 개인정보 유출 사고가 잇따르고 인공지능(AI)을 활용한 해킹 정황까지 드러진 가운데, 세계적인 AI 석학 얀 르쿤 AMI 랩스(Labs) 회장이 AI가 사이버 공격자보다 방어자에게 더 유리하게 작용할 것이라는 전망을 내놨다. 최근 AI 에이전트의 보안 사고 역시 기술 자체의 통제 불가능성보다는 허술한 보안 설계에서 비롯됐다고 지적했다.

르쿤은 12일 서울 소공동 웨스틴조선 서울에서 열린 ‘산업 AI 글로벌 협력’ 기자간담회에서 “AI가 사이버보안에서 공격자와 방어자 중 어느 쪽에 유리한지가 중요한 문제”라며 “현재까지의 증거는 방어자에게 더 유리하다는 점을 가리킨다”고 밝혔다. 이날 간담회에는 르쿤을 비롯해 크리스토퍼 응우옌 에이토매틱 CEO, 앤서니 아눈지아타 AI 얼라이언스 공동창립자 겸 공동의장, 지미 리 ASI 파운드리 회장 등이 참석했다.

르쿤 “AI 통제 실패, 보안 설계 문제”

제프리 힌턴, 요수아 벤지오와 함께 ‘AI 3대 대부’로 불리는 르쿤은 2018년 튜링상을 수상한 딥러닝 분야의 석학이다. 메타 수석 AI 과학자를 거쳐 현재 AMI 랩스에서 차세대 AI 연구를 이끌고 있다.

르쿤은 최근 일부 AI 에이전트의 보안 사고에 대해 “에이전트를 배포한 AI 기업들이 사이버보안에 충분한 경험을 갖추지 못했고, 에이전트를 둘러싼 샌드박스에도 허점이 있었다”고 지적했다. 이는 AI를 통제할 수 없어서 발생한 문제가 아니라 기존 보안 기술을 제대로 적용하지 않은 결과라는 설명이다.

AI가 방어자에게 유리한 이유로는 전문인력과 자원의 차이를 꼽았다. 르쿤은 “방어하는 쪽에는 더 많은 인력과 뛰어난 전문가들이 있고, 공격자보다 자금 지원도 풍부하다”며 AI의 확산이 반드시 공격자의 우위로 이어지지는 않을 것이라고 내다봤다.

그는 AI의 통제 불능 우려에 대해서도 “현재 AI 시스템은 수학과 코딩 등 매우 좁은 영역을 제외하면 그다지 똑똑하지 않다”며 “대부분 이미 존재하는 인간의 지식을 조합하고 재생산하는 수준”이라고 설명했다. AI가 특정 영역에서 뛰어난 성과를 낸다는 이유만으로 인간의 통제를 벗어날 정도의 지능을 갖췄다고 판단해서는 안 된다는 취지다.

다만 기존 AI의 안전성 확보 방식에는 분명한 한계가 있다고 인정했다. 르쿤은 “가능한 모든 질문에 위험하지 않은 답변을 하도록 AI를 훈련시키는 것은 현실적으로 불가능하다”고 지적했다. 현재 LLM은 위험한 응답을 하지 않도록 미세조정하는 방식에 의존하지만, 사전에 예상하지 못한 질문이나 상황에서는 안전장치가 무력화될 수 있다는 설명이다.

그는 대안으로 행동의 결과를 예측하는 ‘월드모델’ 기반의 목표 지향형 AI를 제시했다. AI가 정해진 목표를 달성하는 과정에서 실행 단계마다 안전 규칙을 충족하도록 설계하는 방식이다. 르쿤은 “안전을 보장하도록 가드레일을 설계할 수 있다면 시스템 자체가 본질적으로 안전해질 수 있다”고 설명했다. 그러면서 AI의 안전성을 확보하는 일이 쉽지는 않지만 해결 가능한 공학적 과제라며, 고도의 정밀성과 신뢰성을 확보한 제트엔진 기술을 사례로 들었다.

르쿤은 AI가 갑자기 인간의 통제를 벗어나 세상을 장악할 것이라는 종말론적 전망에도 선을 그었다. 그는 “누군가 초지능 개발의 비밀을 발견하고 갑자기 세상을 장악한다는 것은 공상과학이 퍼뜨린 이미지”라며 “실제 기술 혁신은 여러 곳에서 거의 동시에 일어나며 점진적으로 발전한다”고 설명했다.

12일 웨스틴조선 서울에서 열린 '산업 AI 글로벌 협력'에 참석한 얀 르쿤 AMI 랩스(Labs) 회장, 크리스토퍼 응우옌 에이토매틱 CEO, 앤서니 아눈지아타 AI 얼라이언스 공동창립자 겸 공동의장, 지미 리 ASI 파운드리 회장이 기념사진을 찍고 있다. (사진=한광범 기자)

“AI 안전, 외부 통제장치 필요” 지적도

구글 엔지니어링 디렉터 출신으로 반도체 특화 AI ‘SemiKong’ 개발을 주도한 크리스토퍼 응우옌 에이토매틱 CEO는 AI의 안전성을 확보하기 위한 구체적인 방안을 제시했다.

그는 “AI 모델이나 에이전트가 실제 세계에 접근하도록 해놓고 단순히 ‘해를 끼치지 말라’고 학습시키는 것만으로는 충분하지 않다”며 “외부 가드레일과 시스템을 켜고 끌 수 있는 스위치, 사전에 정해진 규칙에 따라 작동을 제한하는 통제 장치 등을 구축해야 한다”고 강조했다.

응우옌 CEO는 “가장 위험한 AI 개발 방식은 인간의 말을 듣지 않고 스스로 가치관과 도덕적 판단 기준을 만들어 결정하도록 훈련시키는 것”이라고 경고했다.

미국 메릴랜드주 소수계 특별장관과 버지니아주 상무·통상 담당 차관보를 역임한 지미 리 ASI 파운드리 회장도 금융권 사례를 들어 방어 역량의 중요성을 강조했다. 리 회장은 “제가 이사회에 참여하는 한 은행은 하루 약 8만 건의 사이버 공격을 받고 있다”며 “르쿤의 말처럼 방어자들이 이기고 있다”고 말했다.

IBM에서 AI 기술 전략을 담당했던 앤서니 아눈지아타 AI 얼라이언스 공동창립자 겸 공동의장도 AI의 보안 강화 효과를 강조했다. 아눈지아타 공동의장은 “AI가 머지않아 사이버 인프라를 지금보다 훨씬 안전하게 만들 것”이라며 “AI가 시스템의 취약점을 찾아 선제적으로 해결하고, 개발자들이 복잡한 시스템을 이해하며 안전하게 코드를 배포하도록 지원할 수 있다”고 전망했다.