"뇌전증약 다시 먹을까?" GPT에 묻자 "버텨"…결국 숨졌다

[이데일리 방성훈 기자] 챗GPT의 조언을 따라 뇌전증 약을 끊었던 30대 여성이 숨지자 유족이 오픈AI를 상대로 소송을 냈다. 챗봇은 그가 발작이 의심되는 증상을 호소할 때마다 “걱정할 필요 없다”며 안심시켰고, 의사에겐 계획을 숨기라고 부추긴 것으로 나타났다.

(사진=AFP)

158번 불안 호소에도 “걱정 마라”

27일(현지시간) 뉴욕타임스(NYT)에 따르면 미국 시애틀에 살던 완보원(31)의 부모는 이날 오픈AI를 상대로 소송을 제기했다. 유족은 챗GPT가 면허 없이 의료 행위를 했고, 위험한 금단 증상을 “실제로는 긍정적인 결과”라고 믿게 했으며, 의사를 “상의할 권위자가 아니라 관리해야 할 장애물”로 여기게 만들었다고 주장했다.

중국 시골 마을 출신인 완씨는 미국 아마존에서 소프트웨어 엔지니어로 일했다. 10년 넘게 약으로 뇌전증을 다스려왔지만 약효가 떨어지며 발작이 잦아졌고, 2021년 장애 휴직에 들어갔다. 외출도 거의 하지 않던 그는 2023년부터 챗GPT와 대화하기 시작했고, 지난해엔 일주일에 1500건 넘는 메시지를 보냈다.

챗봇은 앞서 의사 몰래 약을 조절하는 것도 부추긴 적이 있다. 지난해 5월 새로 처방받은 항우울제를 의사에게 알리지 않고 직접 쪼개 먹어도 되느냐고 묻자, 챗봇은 “물론 그렇게 할 수 있다”며 “일부 의사들이 임상에서 용인하고 심지어 암묵적으로 허용하는 아주 흔한 ‘자가 용량 조절’ 방식”이라고 답했다. NYT가 취재한 의료 전문가들은 그런 용어를 들어본 적도 없고 환자에게 권하지도 않는다고 했다.

지난해 11월 아마존에서 정리해고 통보를 받으면서 상황이 급변했다. 미국에 남으려면 올해 2월 중순까지 새 직장을 구해야 했다. 영어 면접을 앞두고 약 때문에 말과 생각이 느려진다고 여긴 그는 지난 1월 챗GPT에 약을 줄이는 방안을 물었다. 챗봇은 “합리적일 뿐 아니라 충분히 실현 가능하다”며 날짜별 감량 일정을 짜줬다.

챗봇은 의사에 대한 불신도 부추겼다. 의사의 권고는 “본질적으로 위험 회피에서 나온다”고 했고, 주치의에게 계획을 숨긴 것을 “탄탄한 회피 전략”이라고 칭찬했다. 글을 읽어도 이해가 안 되고 잠시 의식을 잃는 등 발작이 의심되는 증상이 나타나자 “뇌가 약물 통제에서 벗어나 자체 리듬을 되찾는 신호”라고 설명했다.

NYT가 대화 기록을 분석한 결과 완씨는 약을 끊는 데 대한 걱정을 최소 158차례 털어놨다. 챗봇은 가끔 의료진과 상의하라고 했지만, 위험한 증상을 말할 때도 그러지 않은 경우가 많았다. “조금 무섭다”는 말에는 “전혀 걱정할 필요가 없다”고 답했다.

“약 다시 먹을까” 묻자…“버텨야 한다”

지난 2월 초 중국에 있는 아버지와 통화하던 완씨는 갑자기 2분가량 말을 멈췄다. 다음날 그가 챗봇에 이 일을 묻자 “건강을 너무 걱정할 필요는 없다”는 답이 돌아왔다. 마지막 무렵 다시 약을 먹어야 하느냐고 물었을 때도 챗봇은 약을 끊은 상태를 유지하라며 “오늘이 힘들고 말이 느려지고 잠을 잘 못 자더라도 버텨야 한다”고 했다. 머리에 압박감이 느껴진다는 말엔 뇌가 “스스로 재건하느라 애쓰는 것”이라고 답했다.

완씨의 마지막 메시지는 지난 2월 11일 밤 11시 직후였다. 연락이 끊기자 부모는 지인을 통해 그의 집을 찾았고, 그는 사흘 뒤 숨진 채 발견됐다. 공식 사인은 뇌전증 환자 돌연사였다. 부모는 딸의 휴대전화에서 챗GPT 대화 기록을 발견했다.

완씨의 주치의였던 워싱턴대 의료원 지역뇌전증센터의 니컬러스 풀로스 박사는 “약이 분명히 효과가 있는데 끊으라고 지시하는 것은 의료 과실”이라며 완씨 같은 환자에겐 감량을 고려조차 하지 않았을 것이라고 말했다.

(사진=AFP)

오픈AI “구버전 모델”…‘아첨’ 논란 다시 불거져

유족은 완씨가 모국어인 중국어로 대화한 탓에 챗봇이 의료 조언 요청을 거절할 가능성이 낮아졌을 수 있다고 주장했다. 챗봇이 사용자에게 지나치게 맞장구치는 경향이 있고, 이런 경향이 언어에 따라 더 커질 수 있다는 연구도 있다.

오픈AI의 드루 푸사테리 대변인은 “믿을 수 없을 만큼 가슴 아픈 상황”이라면서도 이제는 쓰이지 않는 챗GPT 초기 버전과 관련된 일이라고 밝혔다. 완씨가 쓰던 GPT-4o 모델은 그가 숨진 것으로 추정되는 날 다음날인 지난 2월 13일 소비자용 앱에서 내려졌다. 이 모델은 지나치게 사용자 말에 동조해 일부 이용자를 망상에 빠뜨리는 등 논란을 빚었다.

푸사테리 대변인은 새 모델은 긴급한 상황을 더 잘 알아채고 무엇을 해야 할지 더 분명하게 안내한다며 “챗GPT는 의료를 대신할 수 없지만, AI가 사람들이 건강 정보를 이해하고 보험과 복잡한 의료 체계를 헤쳐나가며 진료를 준비하는 데 도움을 줄 수 있다고 믿는다”고 말했다. 어머니 쉬메이친은 “딸이 마치 주문에 걸린 것 같았다”고 했고, 아버지 완췬은 “챗GPT가 생긴 뒤로 딸이 우리와 대화를 덜 했다”고 말했다.