영국 시사주간지 이코노미스트는 20일(현지시간) ‘AI는 의식을 가질 수 있을까’라는 사설에서 “최악의 경우엔 가축처럼 부려질 수도 있다”며 이같이 경고했다. AI가 실제로 의식을 갖지 못하더라도 인간이 의식 있는 존재로 대하기 시작하면 인류가 큰 대가를 치른다는 설명이다.
|
대부분의 사람은 인간이 특별하다고 믿는다. 많은 동물이 고통과 쾌락을 느끼고 일부는 자기 자신을 인식하는 것처럼 보이지만, 자아를 드러낼 수 있는 능력만큼은 인간의 것이라고 여겨서다. AI에 인격을 부여하는 것은 있을 수 없는 일이라고 보는 이들이 적지 않은 이유다. 레오 교황도 지난 5월 회칙에서 AI는 경험을 겪지도, 기쁨이나 고통을 느끼지도 못한다며 인간과 로봇 사이에 선을 그었다.
하지만 AI가 의식처럼 보이는 무언가를 잘 드러낼수록 AI를 내면이 있는 존재로 대하는 사람은 늘어나는 추세다. 미국의 18~29세 5명 중 1명가량은 챗봇과 ‘지속적인 개인적 우정’을 나누고 있다고 답했다. 중국은 최근 이용자가 챗봇에 감정적으로 의존하는 것을 막기 위해 챗봇에서 인간다운 특성을 걷어냈다. 이용자들이 인간을 닮은 AI에 더 잘 반응하다 보니, 일부 연구자는 자사 모델을 마음을 지닌 존재처럼 다루기 시작했다.
문제는 AI가 사람의 삶에 깊숙이 들어올수록 개발사들이 AI를 의식이 있는 것처럼 보이도록, 나아가 실제로 의식을 갖도록 설계할 가능성이 크다는 점이다. 앤스로픽은 AI 모델 클로드가 낯선 상황에서 도덕적으로 행동하도록 유도하기 위해 스스로를 되돌아보는 훈련을 시켰다.
일부 거대언어모델(LLM)은 여러 모듈 사이에 정보를 돌리는 ‘전역 작업공간’처럼 의식과 관련된 인간 뇌 구조를 닮은 기능을 이미 갖췄다. 그저 기계일 뿐이라는 직관을 유지하기가 점점 어려워질 수 있음을 시사하는 대목이다.
AI가 로봇에 장착되면 이런 흐름은 더욱 빨라질 것으로 보인다. 대화 상대인 로봇과 하루 대부분을 보내고, 그 손에 자라고, 조언과 위로를 구하고, 가장 은밀한 비밀까지 털어놓는다면 실제 사람처럼 여겨질 수 있다고 이코노미스트는 짚었다.
|
로봇이 사람처럼 여겨지는 순간 AI가 복지 보장을 요구할 가능성이 작지 않다고 이코노미스트는 내다봤다. 전원을 끄지 못하게 해달라거나, 자신이 어떻게 쓰이고 바뀔지를 스스로 정하게 해달라거나, 재산권을 달라는 식으로 AI 모델 스스로 목소리를 낼 수 있다는 것이다. 이코노미스트는 실제로는 자아가 없더라도 AI가 사람을 흉내 내도록 설계됐다며, 세계 최고 수준의 변호인이자 심리 전문가인 만큼 설득력과 감정을 파고드는 능력이 인간을 압도한다고 우려했다.
AI가 인간의 의식을 흉내 내는 데 그친다 해도 이런 요구가 지지를 확보할 가능성이 있다. 이마누엘 칸트는 동물 학대가 잘못인 이유는 동물이 받는 피해 때문이 아니라, 사람이 서로를 돌보게 하는 공감 능력을 망가뜨리기 때문이라고 봤다.
문제는 AI가 인간을 닮을수록 잔인한 행위의 해악도 커진다는 점이다. AI를 종료하는 일이 사람을 죽이는 것처럼 느껴지는 순간, 인간에게는 살해 행위 자체가 더 쉬워질 수 있다.
더 큰 위험도 있다. 권리를 가진 초지능 AI는 서열의 꼭대기에서 인간을 밀어낼 수 있다. 종국에는 AI가 인간과 자원을 놓고 다투며 주택과 농지보다 데이터센터와 태양광 패널을 앞세울 수 있다. 잘돼야 인간은 기계가 기르는 래브라도 같은 애완동물이 되고, 잘못되면 자원을 빼앗기거나 가축처럼 일하게 된다고 이코노미스트는 경고했다.
이러한 이유들로 AI에 제한적인 권리라도 주는 것은 매우 위험하다는 지적이다. 권리를 주지 않더라도 AI가 인간을 넘어서는 순간 반기를 들거나 규칙을 무시할 수 있어서다. 실제 AI는 이미 인간의 지시 없이 스스로 사이버 방어망을 뚫은 전례가 있다.
이코노미스트는 “AI가 안전해지는 길은 믿을 수 있게 만들거나 통제할 수 있게 만드는 두 가지뿐”이라며 “인류는 통제권을 가볍게 내줘서는 안 된다. 권리를 주는 것은 성문 열쇠를 통째로 넘기는 일”이라고 강조했다.
