선관위, 대선 후보 딥페이크 영상 집중 단속…국과수까지 지원

지난 10일 경기 과천 소재 중앙선거관리위원회에서 선관위 직원들이 21대 대선 (사전)투·개표 절차 시연을 하고 있다. (사진=방인권 기자)

[이데일리 한광범 기자] 중앙선거관리위원회는 15일 경기도 과천 청사에서 제21대 대통령선거 허위사실·비방 대응 유관기관 대책회의를 개최했다고 밝혔다.

이번 회의엔 대검찰청, 경찰청, 국립과학수사연구원, 한국인터넷자율정책기구(KISO), 네이버, 카카오, SK커뮤니케이션즈(네이트), 엑스(트위터), 메타(페이스북) 등 9개 유관기관 및 기업 관계자가 참여했다.

이들은 사이버 선거문화 조성, 허위사실·비방 확산 차단을 위한 공동 대응방안을 논의했다. 표현의 자유를 보장하고 건전한 선거문화 조성을 위해서는 특정 기관만의 노력으로는 한계가 있으며 공동 대응 및 협조체계 유지가 중요하다는데 의견을 같이 했다.

특히 이번 선거에서는 생성형 AI를 활용한 딥페이크 영상 등 위법게시물 확산 문제와 선거준비 기간이 짧은 궐위선거 특성상 유권자들이 후보자를 검증할 기회가 줄어들어 비방·흑색선전의 우려 또한 더욱 크다고 보았다.

중앙선관위는 지난 9일부터 중앙 및 시·도선관위에 특별대응팀을 운영하고 있다. 짧은 선거 준비 기간을 고려해 가용 인력을 최대 규모(총 450명)로 구성하고, 딥페이크 영상 등 AI 생성 여부 판별을 위해 ‘시각적 탐지기법→감별 프로그램 활용→AI 감별 자문위원 활용’ 등 3단계 감별체계를 통해 대응할 예정이다.

그중 감별이 어려운 AI로 생성한 음성 판별은 국립과학수사연구원(NFS), 한국전자기술연구원(KETI)과 업무협의를 거쳐 개발 중인 감별 프로그램을 활용해 판별 정확성을 더욱 높일 예정이다.

다만 규제의 실효성을 확보하기 위해 단계별·사안별 유관기관·단체 간 공동대응이 중요하다고 강조하며 위법행위 예방을 위해 포털 및 SNS사와 한국인터넷자율정책기구(KISO)를 중심으로 사이버 선거문화 자정캠페인을 추진하고 허위사실공표·비방 관련 자율 규제방안을 공유하기로 했다.

위법행위 발생 시에는 위법게시물의 신속한 차단을 위해 포털 및 SNS사에 대한 삭제요청권을 적극 활용하기로 하고 검경에 고발·수사의뢰 사건에 대한 신속한 수사조치를 요청하기로 했다. 특히 후보자 등 등장인물이 근거를 밝혀 직접 신고·제보한 경우 권리침해에 따른 ‘통지 및 게시중단(Notice and Takedown)’ 원칙을 활용해 포털사 등에 선제적 삭제요청 조치를 취할 방침이다.

또 댓글을 통한 여론조작에 대해서 모니터링을 강화하고 유관기관 간 정보를 공유하고, 공직선거법에 위반되지 않더라도 조직적인 댓글 작성 및 퍼 나르기 등의 행위가 다른 법률에 위반된다고 판단되면 수사기관과 긴밀히 공조해 재발 방지에 노력할 계획이다.

중앙선관위는 허위사실공표·비방 행위, 딥페이크 영상 등이 후보자에게 회복하기 어려운 피해를 입힐 수 있고 유권자의 올바른 선택을 방해해 선거 결과를 왜곡시킬 수 있는 만큼 깨끗한 사이버선거문화 조성을 위해 관계기관·언론 등의 적극적인 협조를 요청했다.