실제 인물 사진으로 성적 딥페이크까지…AI 음란물 생성 사이트 64건 차단

[이데일리 윤정훈 기자]인공지능(AI)을 악용한 범죄에 대한 사회적 우려가 커지는 가운데, 방송미디어통신심의위원회(방미심위)가 AI 기반 음란물·딥페이크 생성 사이트에 대해 시정요구(접속차단)를 내리며 적극 대응에 나섰다.

[본 이미지는 AI 기술을 활용해 제작되었습니다.]

방미심위는 중점 모니터링을 통해 AI로 음란물이나 딥페이크를 생성하는 해외 사이트 64건을 적발하고, 24일 통신심의소위원회에서 이들 사이트에 대해 ‘시정요구(접속차단)’를 의결했다고 밝혔다.

이번에 시정요구된 사이트들은 실제 인물의 얼굴이나 신체 사진을 업로드하면 성행위 등을 묘사한 이미지나 동영상을 손쉽게 생성해주거나, 이용자가 입력한 문구에 따라 가상의 음란물을 만들어주는 서비스를 제공하는 것으로 확인됐다.

특히 상당수의 사이트들이 한국어를 지원하면서 소액만으로도 딥페이크·음란물을 제작할 수 있도록 하는 등, 누구든지 손쉽게 범죄의 가해자는 물론 피해자가 될 수 있어 위험성이 매우 큰 것으로 나타났다. 성폭력처벌법상 성적 허위영상물을 제작할 경우 7년 이하의 징역 또는 5천만 원 이하의 벌금에 처해질 수 있으며, 정보통신망법상 음란물을 유포할 경우 1년 이하의 징역 또는 1천만 원 이하의 벌금 대상이 된다.

방미심위는 “‘타인의 동의 없는 성적 이미지 생성을 금지한다’는 이용 약관을 걸어둔 곳도 있었지만, 그 문구가 무색할 정도로 제한 없이 타인의 사진을 활용해 음란물을 제작할 수 있었다”며 “성적 허위영상물은 한번 제작·유포되면 피해 회복이 어려운 만큼, AI를 악용해 이러한 정보를 유통하는 국내외 사이트를 지속적으로 모니터링하고 엄정하게 대응하겠다”고 말했다.