尹대통령도 당한 '딥페이크'…슈퍼 선거의 해 흔드는 최대 변수되나

최근 확산된 윤석열 대통령 딥페이크 영상. 방송통신위원회는 해당 영상을 차단하는 조치를 내렸다.(출처: 틱톡)

[이데일리 최정희 기자] 올해는 전 세계 76개국에서 42억명의 유권자가 투표를 하는 ‘슈퍼 선거의 해’이다. 슈퍼 선거의 해에 가장 큰 걸림돌로 ‘딥페이크(Deepfake·실제와 비슷하게 조작된 디지털 영상물)’가 지목되고 있다.

최근 윤석열 대통령도 딥페이크의 표적이 됐다. 윤 대통령의 양심선언이라고 밝힌 영상이 사회관계망서비스(SNS)에서 무차별적으로 유통됐는데 알고보니 짜깁기한 ‘딥페이크’ 영상으로 밝혀졌다. 방송통신심의위원회는 23일 긴급통신소위원회를 열고 해당 영상을 차단하는 조치를 의결했다. 방통위는 해당 영상을 대통령을 이용해 사회적 혼란을 일으키는 국내 ‘첫 딥페이크’물이라고 판단했다.

미국, 튀르키예 등 선거가 있는 나라 곳곳에서도 딥페이크로 몸살을 앓고 있다. 올해는 인공지능(AI)이 유권자에게 영향을 미치고 선거 결과에 영향을 미치는 최초의 선거가 될 것이라는 우려가 나오고 있다.

◇ ‘선거판’ 뒤흔드는 딥페이크

4월 10일 총선을 앞둔 상황에서 윤 대통령의 ‘양심고백’ 연설이 틱톡, 메타 등 SNS를 뒤흔들었다. 해당 영상에서 윤 대통령은 “무능하고 부패한 윤석열 정부는 특권과 반칙, 부정과 부패를 일삼았다. 저 윤석열은 상식에서 벗어난 이념에 매달려 대한민국을 망치고 국민을 고통에 빠뜨렸다”고 말한다. 문제는 이 영상이 가짜라는 점이다. 2022년 2월 대선 후보였던 윤 대통령의 TV연설의 장면을 짜깁기한 것이다.

이에 방통위는 해당 영상을 삭제, 유통 금지 조치 등을 내렸다. 김수경 대통령실 대변인은 이와 관련 “허위조작 영상에 강력하게 대응할 방침”이라며 “민주주의의 꽃인 총선을 앞두고 허위 조작 영상이 확대 재생산되지 않도록 우리 사회 전체가 힘을 모으길 기대한다”고 밝혔다.

미국도 11월 대선을 앞두고 딥페이크가 속을 썩이고 있다. 지난달 23일, 뉴햄프셔주 예비선거를 앞두고 조 바이든 미 대통령의 목소리를 흉내 낸 딥페이크 전화가 유권자들에게 걸려온 것이다. 수 천 명의 유권자들은 “11월 선거를 위해 표를 아껴둬라. 이번 투표는 도널드 트럼프를 당선시킬 가능성이 높다”며 투표하지 말라는 바이든 대통령의 전화를 받았다. 이는 텍사스에 본사를 둔 라이프코퍼레이션(Life Corporation)이 대통령 목소리를 모방해 만든 딥페이크 인공지능(AI) 생성 메시지였다.

튀르키예에서 나타난 딥페이크 영상은 딥페이크가 선거에 상당한 영향을 미칠 수 있음을 암시한다. 작년 5월 대선 당시 쿠르드족 분리주의 무장단체 쿠르디스탄노동자당(PKK)이 야당 연합의 케말 클르츠다로을루 후보를 지지하는 영상이 확산됐다. 문제는 선거가 끝난 후에야 이 영상이 가짜임이 드러났다. 클르츠다로을루 후보는 이 영상으로 인해 선거에서 졌다고 토로했다.

◇ ‘가짜’ 표시해도 이미지는 타격

딥페이크는 AI가 실제와 구별하기 어려운 가짜 오디오, 사진, 동영상을 생상하는 기술을 말한다. 문제는 선거를 앞두고 가짜 영상이 판을 칠 가능성이 높아지고 있다는 점이다. 무엇보다 슈퍼 선거의 해인 만큼 딥페이크가 선거에 영향을 줄 수 있다는 점이 크게 우려되고 있다.

이에 각국들은 딥페이크 영상을 막기 위해 조치들을 강화하는 분위기다. 딥페이크는 잘만 활용하면 비용 절감, 업무 효율성을 높인다는 강점이 있기 때문에 그 자체가 불법은 아니다. 특히 AI기술 발달과 함께 나타난 현상이기 때문에 미래 기술을 발전시키면서도 부작용을 낮춰는 데 초점이 맞춰지고 있다.

미국에선 작년 10월 딥페이크 영상, 사진, 음향에 의무적으로 워터마크를 부착하는 행정명령을 시행했다. 또 워터마크 표시를 지우는 행위에 대해서도 처벌할 수 있는 조항이 만들어졌다. 유럽연합(EU)도 마찬가지다. 그러나 우리나라는 AI 부작용을 막는 법안 추진 자체가 답보 상태다. 작년 5월 이상헌 더불어민주당 의원이 발의한 AI산출물에 대한 표시를 의무화하는 콘텐츠산업진흥법 개정안이 제출됐지만 계류되고 있다.

문제는 숏츠 등 짧은 영상 컨텐츠가 유행하는 등 이미지 정치가 중요한 상황에서 해당 영상이 이미 가짜라는 것을 알고 있음에도 그 영상이 주는 이미지에서 자유로울 수 있을까에 대한 부분이다.

USA투데이에 따르면 크레이그 홀먼, 비영리단체 ‘퍼블릭 씨티즌(Public Citizen)’의 국회의사당 로비스트는 “올해가 AI가 유권자에게 영향을 미치고 선거 결과에 영향을 미치는 최초의 딥페이크 선거 주기가 될 것”이라고 경고했다. 그는 바이든 대통령이 재선에 도전하겠다고 발표한 직후 공화당 전국위원회가 만든 광고를 봤는데 중국이 대만을 폭격하는 장면, 수 천명의 사람들이 국경을 넘어 미국으로 몰려가는 장면 등이 담겨 있었다. 이에 대해 그는 “가짜영상임을 알고 있음에도 시각적으로 그 차이를 구분할 수 없었다”고 밝혔다. AI가 가져올 후폭퐁을 이해하는 등의 교육이 필요해지고 있다는 지적도 나온다.