"혹시 내가 만든 AI가"…'AI 인류 멸망론'에 연구원들 잇단 병가·사표

(사진= AFP)

[이데일리 박기주 기자] 인공지능(AI)이 세상을 위협할 수 있다는 이른바 AI 인류 멸망론이 대두된 이후 관련 전문가들이 병가를 내거나 사표를 쓰는 일이 이어지고 있다.

영국 일간 파이낸셜타임스(FT)는 22일(현지시간) 프런티어 AI 모델을 독립적으로 점검하는 기관인 영국 AI안전연구소(AISI)의 여러 직원이 정신적 스트레스로 병가를 내고 상담받고 있다고 보도했다.

FT는 출시를 앞둔 AI 모델들에 대한 강도 높은 테스트 일정에 더해 AI 신기술의 급속 확산과 기능 발전에 대한 우려로 사기 저하와 ‘번아웃’을 겪고 있다고 소식통을 통해 전했다.

앤트로픽과 오픈AI, 구글 딥마인드 등 선두 기업 직원들도 비슷한 우려를 호소한다. 딥마인드 한 직원은 AI를 더 안전하게 만드는 일이 ‘불가능한 임무’처럼 느껴진다고 했다. 그는 “AI 시스템 업무는 전반적으로 그 기술이 어떻게 사용될지 모른다는 점에서 (정신건강) 위험이 있다”고 말했다.

그는 “많은 사람이 혼란스러워하며 일을 그만두거나 정신건강 문제로 병가를 내고 있다”며 “통제력을 잃고 있다는 느낌도 일부 있고, 진짜 해로운 걸 만들고 있다는 느낌도 있다”고 전했다.

업계 관계자들에 따르면 AI 연구원들 사이에선 기업 내부나 정치적으로 안전장치가 충분하지 않은데도 에너지망이나 전쟁 지역과 같은 위험한 분야에 AI 소프트웨어가 적용되고 있는 것에 우려를 표하고 있다.

한 전직 AISI 연구원은 “기술이 방출되는 방식에 무모한 요소들이 내재한다는 느낌이 있다”며 “그래서 ‘이걸 멈출 수 있는 게 있을까’, ‘우리가 세상이 불타는 걸 보고 있는 건가’라는 우려가 끊임없이 나온다”고 말했다.

FT는 오픈AI와 앤트로픽, 딥마인드 등 미국 3대 선두기업에서 지난 2년간 안전성에 우려를 표시하며 퇴사한 고위급 연구원이 12명을 넘는다고 전했다.

이달 초 앤트로픽의 AI 개발자인 제이컵 콕슨이 사직하면서 앤트로픽과 오픈AI가 “우리의 목숨을 걸고 도박하고 있다”고 경고한 바 있다. 앤트로픽 AI 안전성 연구원이던 므리난크 샤르마는 올해 2월 “세계가 위험하다. 우리의 가치에 따라 행동하는 게 얼마나 어려운지 거듭 목격했다”고 직원들에게 편지를 보낸 후 사직했다.

다만 이에 대해 반발하는 목소리도 있다. 젠슨 황 엔비디아 최고경영자(CEO)는 지난 20일 미국 CBS와의 인터뷰에서 “2030년 (AI에 의해) 세계의 종말이 되진 않을 것이며 그때 세상이 끝날 확률은 0%”라고 단언하면서 “사람들에게 공포감을 주는 것은 불필요하고 무책임한 행동”이라고 말했다.

그는 AI에 대한 우려에 대해 “과학에 기반하지 않았다”며 “(우려의 말을 하는)그들은 실제로 규제를 더 만들어달라고 요구하는 게 아니라 기존 법률에 따른 책임에서 벗어나게 해달라고 요구하는 것이고 나는 이게 문제라고 생각한다”고 했다.