|
이 여성은 10년 넘게 뇌전증 증상을 조절해 왔으나 최근 해고 통보, 비자 문제 등으로 스트레스를 받았고 약물 부작용에 따른 인지 저하를 의심하기 시작했다. 결국 전문의와 상담없이 약몰 복용량을 줄이기로 했고, 이 과정에서 2023년부터 집중적으로 써온 챗GPT의 조언에 의존했다.
이 여성은 AI 설명대로 용량을 줄이다가 결국 복용을 중단했다. 기록을 보면 챗GPT는 ‘자기 주도형 용량 조절’이라며 복용량을 줄여도 괜찮다는 메시지를 내놨고, 심지어 주치의에 대한 불신을 유도하는 메시지를 지속하고 약 복용 중단에 따른 금단 현상을 “명상적 상태”라 포장하는 기만적 언사까지 사용했다. 보언이 죽기 직전에도 “힘들어도 복용 중단을 유지하라”는 권고까지 한 것이 남아 있었다.
딸의 상태를 의심한 부모가 집을 찾았고 숨진 딸을 발견했다. 유족들은 딸은 스마트폰에서 발견한 챗 로그를 확인하고 오픈AI를 상대로 소송을 냈다.현지 의료진들은 사건을 두고 뇌전증 환자의 임의 복용 중단은 치명적일 수 있다며 챗GPT 가이드가 의료 과실 수준이었다고 비판했다. 사망 당시 보언이 사용한 챗GPT 모델은 과도한 긍정 성향으로 여러 사고에 연루됐던 GPT-4o 버전으로 확인됐다.오픈AI 대변인은 사건에 대해 “가슴 아픈 일”이라며 유감을 표명하는 한편 최신 모델은 의료 상황을 더 정확히 인식하도록 개선됐다고 주장했다.
