챗GPT, 자해 위험 파악해 지인에 알려준다…성인 1명 지정 가능

[이데일리 이소현 기자] 오픈AI가 챗GPT에 자해 위험이 우려되는 상황에서 이용자가 미리 지정한 지인에게 알림을 보낼 수 있는 ‘신뢰 연락처’ 기능을 도입한다.

챗GPT '신뢰 연락처' 기능(사진=오픈AI)

오픈AI는 7일(현지시간) 성인 이용자가 친구, 가족, 보호자 등 신뢰하는 사람 1명을 지정할 수 있는 선택형 안전 기능인 신뢰 연락처(Trusted Contact)를 순차 도입한다고 밝혔다. 국내에선 만 19세 이상 이용자가 대상이다.

이 기능은 이용자가 심각한 안전 우려를 시사하는 방식으로 자해나 자살에 관해 이야기하면 자동화 시스템과 훈련된 검토 인력이 판단해 작동한다. 이때 챗GPT는 이용자에게 신뢰 연락처에 알림이 갈 수 있음을 안내하고, 이용자가 직접 연락할 수 있도록 대화 시작 문구도 제안한다.

신뢰 연락처로 지정된 사람은 초대를 받아야 하며, 1주일 안에 수락해야 기능이 활성화된다. 초대를 거절하거나 기간 내 응답하지 않으면 해당 이용자는 다른 사람을 신뢰 연락처로 지정할 수 있다.

오픈AI는 알림이 제한적인 방식으로 전송된다고 설명했다. 신뢰 연락처에는 자해나 자살이 심각한 안전 우려를 나타낼 수 있는 방식으로 언급됐다는 일반적 사유만 전달되며, 챗GPT 대화 내용이나 대화 기록은 공유되지 않는다. 알림에는 민감한 대화를 다루는 방법에 대한 전문가 안내 링크도 포함된다.

이용자는 언제든 설정에서 신뢰 연락처를 수정하거나 삭제할 수 있다. 신뢰 연락처로 지정된 사람도 도움말 센터를 통해 본인을 해제할 수 있다.

오픈AI는 신뢰 연락처가 전문 치료나 위기 대응 서비스를 대체하는 기능은 아니라고 밝혔다. 기존에 챗GPT에서 제공하던 지역별 위기 상담 전화 안내와 함께 이용자가 어려운 순간 현실 세계의 도움과 연결될 수 있도록 돕는 추가 안전 장치라는 설명이다.

이 기능은 청소년 계정에서 급성 고통 신호가 감지될 경우 부모나 보호자에게 알림을 보낼 수 있도록 한 부모 통제 안전 알림 기능을 성인 이용자까지 확대한 것이다.

오픈AI는 정신건강과 자살 예방 분야 임상의, 연구자, 관련 기관의 자문을 받아 해당 기능을 개발했다고 밝혔다. 또 심각한 안전 상황은 드물지만, 알림 발송 전 훈련된 인력이 검토하며 1시간 이내 검토를 목표로 한다고 설명했다.

오픈AI는 “‘신뢰 연락처’는 사람들이 어려운 순간에 도움을 받을 수 있도록 AI를 설계하려는 더 큰 노력의 일부”라며 “AI가 고립된 존재가 아니라, 사람들이 현실 세계의 돌봄·관계·자원과 연결되도록 돕는 역할을 하길 바란다”고 밝혔다.