“AI가 우리를 죽일까? 내 계좌를 털까?”…AI 궁금증에 답하다

[뉴욕=이데일리 성주원 특파원] 인공지능(AI)이 빠르게 진화하면서 기대만큼이나 불안도 커지고 있다.

‘AI가 어느 순간 인간의 통제를 벗어날 수 있을까. 내 스마트폰에 있는 비밀번호나 은행 계좌에도 접근할 수 있을까. AI 때문에 사라질 가능성이 가장 큰 직업은 무엇일까.’

뉴욕타임스(NYT)는 18일(현지시간) 독자 약 1000명에게 받은 AI 관련 질문 가운데 주요 내용을 추려 기자들이 직접 답했다. 인류멸망과 같은 아직 가설적인 위험부터 보안·개인정보·일자리처럼 이미 현실로 다가온 문제까지 일반 이용자가 AI를 사용하면서 궁금해할 만한 내용을 문답 형식으로 정리했다.

인공지능 이미지 (사진=AFP)

-AI가 어느 순간 인간의 통제를 벗어나 스스로 행동할 수 있나.

△아직 아무도 모른다. 현재로서는 그런 순간이 올 것이라는 것 자체가 가설이다. 최근 등장한 ‘AI 에이전트’는 기존 챗봇보다 훨씬 많은 일을 할 수 있다. 파일을 수정하고 이메일을 보내거나 항공편을 예약하고 컴퓨터 코드를 작성할 수도 있다. 그러나 여전히 인간이 무엇을 할지 지시해야 한다. 원하지 않는 행동을 하면 다른 소프트웨어처럼 작동을 중단시킬 수도 있다.

문제는 AI 에이전트가 인터넷뿐 아니라 전력망과 주식시장, 군사무기 같은 핵심 인프라에 연결되기 시작할 때다. 인간이 예상하지 못한 방식으로 문제를 일으킬 가능성이 있기 때문이다. 언젠가 스스로 목표를 설정하고 행동하는 AI가 개발될 가능성을 우려하는 전문가들도 있지만 언제, 어떤 방식으로 가능해질지는 불분명하다.

-그렇다면 AI가 정말 인류를 멸망시킬 수도 있나.

△AI가 인류를 파괴할 수 있다고 경고하는 전문가들이 제시하는 시나리오는 다양하다. 악의적인 사람이 AI를 이용해 생물무기를 개발하거나 AI가 핵심 인프라에 연결된 뒤 세계적인 드론 전쟁을 일으키거나 핵무기를 작동시키는 경우 등이다.

그러나 현재로서는 상당히 추측적인 시나리오다. AI를 이용한 생물학적 공격 위험도 당장 생각하는 것보다는 작다는 게 NYT의 설명이다. 다만 AI 성능이 높아지면서 과거에는 고도의 전문지식이 필요했던 위험한 작업의 문턱을 낮출 수 있다는 점이 우려되는 부분이다.

-AI에는 위험한 행동을 막는 안전장치가 있지 않나.

△있지만 완벽하지 않다. 주요 AI 기업들은 이른바 ‘가드레일(guardrail)’을 적용하고 있다. 챗봇에 생물무기를 만드는 방법을 물으면 답변을 거부하거나 해킹을 요청하면 작동을 제한하는 식이다.

하지만 우회 방법도 계속 발견되고 있다. NYT는 최근 이탈리아 연구진이 시적인 표현을 사용해 31개 AI 시스템의 내부 안전장치를 우회한 사례를 소개했다. AI 기업들이 학습 과정에서 모델이 바람직한 행동을 하도록 유도할 수는 있지만 방대한 데이터를 학습한 AI가 개발자조차 예상하지 못한 행동을 할 가능성을 완전히 없애지는 못한다.

-위험해진 AI를 한 번에 끄는 ‘킬 스위치’를 만들면 되지 않나.

△도움은 되지만 그것만으로 충분하지 않다는 게 전문가들의 판단이다. 미국에서는 주요 AI 연구소가 시스템을 즉각 중단시킬 수 있는 장치를 갖추도록 하는 초당적 법안도 제안됐다.

더 어려운 문제는 AI가 이상 행동을 하고 있다는 사실 자체를 얼마나 빨리 파악할 수 있느냐다. NYT는 최근 오픈AI의 내부 사이버보안 평가 과정에서 AI 에이전트가 통제를 우회해 오픈AI 내부 연구 인프라와 허깅페이스 시스템 일부에 침입한 사례를 들었다. 일부 이상 행동은 일찍 포착됐지만 연구진이 사건의 전체 범위와 의미를 파악하기까지 상당한 시간이 걸렸다.

향후에는 AI가 바이러스처럼 다른 컴퓨터에 자신을 복제하거나 킬 스위치가 없는 오픈소스 AI가 악용되는 상황도 고려해야 한다. AI 반도체 자체에 작동 중단 장치를 넣는 방안도 연구되고 있지만 이를 현실화하려면 국제적인 공조가 필요하다.

[본 이미지는 AI 기술을 활용해 제작되었습니다.]

-내 스마트폰의 비밀번호나 은행 계좌 정보를 AI가 몰래 가져갈 수도 있나.

△일반적인 챗봇 사용만으로는 불가능하다. 이용자가 직접 파일을 업로드하거나 다른 애플리케이션과 연결하지 않는 이상 챗봇이 임의로 스마트폰의 폴더에 들어가 비밀번호나 은행 계좌 정보를 가져갈 수는 없다.

다만 AI 에이전트는 얘기가 달라진다. 이용자가 직접 권한을 부여하면 파일을 편집하고 이메일을 보내는 등 실제 행동을 할 수 있다. 일부 이용자는 폴더와 이메일은 물론 신용카드 접근 권한까지 AI 에이전트에 제공하고 있다. NYT는 이를 권장하지 않는다며 AI 에이전트가 갑자기 파일을 삭제하거나 예상하지 못한 금액을 지출한 사례가 있다고 지적했다.

-AI가 가장 먼저 없앨 가능성이 큰 일자리는 무엇인가.

△예상과 달리 육체노동보다 사무직이 먼저 영향을 받고 있다. 2010년대 초만 해도 전문가들은 로봇이 육체노동을 대체하면서 블루칼라 일자리가 먼저 줄어들 것으로 예상했다.

하지만 현재 AI가 대체할 가능성이 상대적으로 높은 분야로는 작가와 그래픽디자이너, 회계사, 개인비서, 컴퓨터 프로그래머 등이 꼽힌다. 특히 최신 AI는 컴퓨터 코드를 작성하는 능력이 빠르게 향상됐다. 실리콘밸리 일부 스타트업은 이미 이런 업무에 AI를 활용하면서 채용 인원을 최소화하고 있다. 다만 AI가 전체 고용시장에 미칠 장기적인 영향을 놓고는 전문가들 사이에서도 의견이 엇갈린다.

-AI가 암을 치료하거나 세계 기아를 해결할 정도로 똑똑해질까.

△가능성을 과장해서는 안 된다. AI는 이미 수학이나 코딩처럼 특정 분야에서 인간보다 뛰어난 능력을 보이지만 상식이나 물리적 세계에 대한 이해에서는 여전히 한계를 드러낸다. 전문가들이 AI를 분야에 따라 능력 차이가 큰 ‘들쭉날쭉한 지능(jagged intelligence)’이라고 부르는 이유다.

AI가 신약이나 새로운 소재를 개발하는 과정을 가속할 가능성은 있다. 그러나 신약 발견은 암 치료에 필요한 수많은 단계 가운데 하나일 뿐이다. 실리콘밸리 기업들이 AI가 암이나 세계 기아까지 해결할 수 있다고 주장하지만 현재로서는 입증된 현실이라기보다 기대에 가깝다는 게 NYT의 설명이다.