과기정통부·여가부, 딥페이크 탐지·삭제 시스템 고도화 논의

강도현 과학기술정보통신부 제2차관과 신영숙 여성가족부 차관이 28일 오후 서울 중구 한국여성인권진흥원 디지털성범죄피해자지원센터를 방문해 기념촬영을 하고 있다. 왼쪽부터 신영숙 여성가족부 차관, 신보라 한국여성인권진흥원장, 강도현 과학기술정보통신부 제2차관.

[이데일리 최정희 기자] 과학기술정보통신부와 여성가족부가 딥페이크(Deepfake·이미지 합성 기술) 성범죄 근절을 위해 딥페이크 탐지·삭제 자동 시스템을 고도화하는 방안에 대해 논의했다.

강도현 과기정통부 제2차관과 신영숙 여성가족부 차관은 28일 오후 한국여성인권진흥원에 설치된 디지털성범죄피해자지원센터에 방문해 딥페이크 성범죄 피해 예방·피해자 지원 방안에 대해 긴급 점검하는 자리를 가졌다.

전일 윤석열 대통령이 제37회 국무회의에서 딥페이크 영상물이 소셜미디어(SNS)를 타고 빠르게 유포되고 있어 디지털 성범죄에 강력히 대응할 것을 지시한 바 있다. 이번 현장 방문은 윤 대통령의 지시사항을 이행하고 현장의 목소리를 듣기 위해 추진하게 됐다.

과기부는 “최근 생성형 인공지능(AI) 기술을 활용해 손쉽게 허위 음란영상물을 제작할 수 있게 되면서 일반인 대상으로 디지털 성범죄 피해가 빠르게 확산됨에 따라 두 부처는 신속한 대응방안 모색을 위해 디지털성범죄피해자지원센터를 방문했다”고 밝혔다.

디지털성범죄피해자지원센터에선 딥페이크 삭제지원시스템을 운영하고 있는데 디지털 성범죄 딥페이크를 탐지하고 사진 한 장으로도 허위영상물을 추적할 수 있도록 시스템을 고도화하는 방안 등에 대해 양부처가 협력할 수 있는 방안을 논의했다.

딥페이크 성범죄 예방 및 대응은 5월 국무회의에서 보고된 범부처 ‘새로운 디지털 질서 정립 추진계획’에 포함된 핵심 정책 과제 중 하나로 부처간 협업을 이어왔다.

디지털성범죄피해자지원센터는 디지털 성범죄 피해상담(365일)과 피해 촬영물에 대한 삭제를 지원하고 수사 및 무료법률지원 연계 등 종합 서비스를 제공하고 있다. 2018년 4월 개소 이후 작년말까지 총 3만 2000여명의 피해자를 대상으로 피해 촬영물 상담 및 삭제, 수사·법률·의료 연계 지원 등 총 100만 4000건의 서비스를 제공했다. 신보라 한국여성인권진흥원 원장은 “끊임없이 재유포되는 피해영상물의 신속하고 완전한 삭제를 위해 삭제 실무자 1인당 피해자 100명 이상을 지원하며 혼신의 노력을 기울이고 있다”며 “삭제지원시스템에 고도화된 기술이 도입된다면 피해자 지원을 확대할 수 있을 뿐만 아니라 실무인력 부족을 보완할 수 있다”고 밝혔다.

한편 과기부와 여가부는 7월부터 합동으로 딥페이크 기반 디지털 성범죄 피해 예방 및 보호방안 마련을 위해 정책 연구를 추진하는 등 지속 협업해오고 있다. 정책 연구 결과를 바탕으로 올해까지 딥페이크 발전에 따른 디지털 성범죄 관련 법제 정비 방향과 딥페이크 성적합성물 탐지시스템 구축 방안을 도출할 예정이다.

한편 과기부는 △악의적 변조 콘텐츠 대응을 위한 딥페이크 탐지 고도화, 생성억제, 유포 방지 플랫폼 개발 △디지털성범죄 피해 예방을 위한 불법 촬영물 이미지 유포 차단 및 추적 기술 개발에 각각 작년 4월부터 내년말까지 2423억원, 2427억원을 투자할 예정이다. 또 ‘생성형 AI의 사회적 부작용을 방지하기 위한 자가 진화형 딥페이크 탐지 기술’이라는 이름으로 올해 7월부터 2027년말까지 4000억원을 출연한다.