이주영 개혁신당 의원, '청소년 보호법 일부개정법률안' 대표발의 관계형 AI의 정서적 의존·자해 유도 등 위험 차단 방안 연령 확인·위기 대응 의무화…유해 AI 서비스 중단 근거 마련
[이데일리 이혜라 기자] 이주영 개혁신당 의원이 청소년의 정서적 의존을 유발하거나 자해·자살 등 유해한 대화를 생성할 수 있는 인공지능(AI) 서비스에 대한 규제를 추진한다.
이 의원은 지난 6일 관계형 인공지능서비스를 청소년 유해환경 관리 대상에 포함하는 내용의 ‘청소년 보호법 일부개정법률안’을 대표발의했다고 10일 밝혔다.
이주영 개혁신당 의원. (사진=이주영 의원실)
개정안은 이용자와 지속적이고 개인화된 대화를 나누며 정서적 관계를 형성하는 ‘관계형 인공지능서비스’와 ‘청소년유해인공지능서비스’의 개념을 신설하는 것이 핵심이다. 기존 청소년 보호법이 영화·게임 등 사전에 제작된 콘텐츠를 중심으로 유해성을 관리해 실시간으로 대화를 생성하는 AI 서비스에는 별도 보호체계가 미흡하다는 판단에서다.
개정안은 청소년을 대상으로 관계형 AI 서비스를 제공하는 사업자에게 연령·본인 확인, 유해 콘텐츠 생성 방지, AI와 대화하고 있다는 사실 고지 등의 보호조치를 의무화하도록 했다. 자해 등 위기상황에 대응할 체계를 마련하고 과도한 이용이나 정서적 의존을 방지하는 조치도 포함했다.
아울러 청소년에게 유해한 것으로 결정된 AI 서비스에 대해서는 서비스 중단 명령과 삭제·접속 차단 조치를 할 수 있도록 법적 근거를 마련했다.
이 의원은 “사람처럼 대화하고 감정을 표현하는 AI의 사용은 청소년에게 단순한 콘텐츠 이용을 넘어 정서적 영향을 미칠 수 있다는 점에서 엄격한 기준과 관리감독 체계가 필요하다”며 “이번 개정안은 아이들이 위험에 홀로 노출되지 않도록 필수적인 안전장치를 마련하려는 것”이라고 강조했다.
