디성센터, 작년 딥페이크 피해 1.8만건 지원…3배 넘게 늘어

[이데일리 이지은 기자] 학생 A씨는 소셜미디어에 올렸던 자신의 사진으로 딥페이크의 피해자가 됐다. 다른 사람의 성적인 사진과 합성돼 학교 친구들의 텔레그램방에서 공유되고 있다는 사실을 알게 된 것이다. 중앙 디지털성범죄피해자지원센터(디성센터)는 A씨로부터 받은 텔레그램방 링크를 통해 합성물 원본을 확보하고, 경찰 신고를 원하는 A씨를 가까운 수사기관과 지역 지원기관을 연계했다. 이후에도 모니터링과 삭제 조치를 지속적으로 진행해 피해 확산을 최소화할 수 있었다.

직장인 B씨는 자신의 얼굴이 타인의 나체와 합성된 사진이 돌아다닌다는 사실을 지인에게서 듣게 됐다. 합성사진 속 얼굴은 회사 그룹웨어에 등록한 증명사진에서 따온 것이었다. 중앙 디성센터는 B씨가 온라인게시판에 삭제 지원을 요청한 당일 조치에 착수했고 지역 디성센터와 연계해 싱담을 시작했다. 정신적 충격으로 퇴사를 결심했던 B씨는 일상으로 복귀하는 방향으로 마음을 바꿨다.

서울 한국여성인권진흥원 디지털성범죄피해자지원센터 앞에 딥페이크 예방 관련 포스터가 붙어 있다.

여성가족부 산하 한국여성인권진흥원은 지난해 8월 26일부터 올해 8월 25일까지 이같이 딥페이크 등 합성·편집 피해를 본 1807명을 지난 1년간 중앙디성센터를 통해 지원했다고 밝혔다. 이는 직전 1년 지원했던 피해자(793명)에 비해 128% 증가한 규모다. 같은 기간 상담·연계·삭제 등 지원 서비스를 제공한 건수는 5908건에서 1만 8523건으로 3.1배 급증했다.

성별로 보면 전체 피해자 중 여성이 97.1%(1754명)로 대부분이었다. 연령대별로는 10대 이하가 46.4%(839명)와 20대가 45.9%(829명)로 비중이 컸다. 중·고등학교와 대학가를 중심으로 딥페이크가 급속히 확산한 영향으로 풀이된다.

(그래픽=문승용 기자)

중앙디성센터는 ‘삭제지원 통합대응 솔루션’의 연내 구축을 목표로 인공지능(AI) 대응체계 본격 추진하고 있다. 육안 모니터링을 통해 수작업 중심으로 이뤄지던 삭제지원 절차는 AI 시스템을 통해 실시간 감시부터 피해촬영물 삭제요청까지 전 과정을 자동화할 방침이다. 아동·청소년 대상 성착취물 및 유인 정보를 사전 탐지 및 감지해 자동으로 신고하는 선제적 예방 시스템을 구축하고 이를 자가학습형 AI를 적용해 고도화할 계획이다. 디지털 성범죄 원스톱 통합 홈페이지를 통해서는 신고창구를 일원화한다.

신보라 진흥원 원장은 “딥페이크 성범죄는 기술의 악용으로 발생하는 새로운 형태의 인권 침해로, 생성형 AI의 높은 편의성과 접근성으로 인해 누구나 순식간에 딥페이크 성범죄 피해자가 될 수 있는 환경이 조성됐다”며 “지난 1년간의 피해지원 사례를 분석한 결과 특히 폐쇄형 소셜미디어가 범죄 도구로 활용되면서 피해가 대량화되고 장기화되는 특성이 확인됐다”고 지적했다.

그러면서 “진흥원은 앞으로도 피해자 중심의 지원체계를 강화하고, 기술 고도화를 포함한 포괄적인 대응 역량을 지속적으로 확대해 나가겠다”고 강조했다.