"전쟁 터졌다" 수억 뷰…알고 보니 돈 노린 'AI 조작'

(사진=AI 생성 이미지)

[이데일리 김명상 기자] 미국과 이란의 전쟁 이후 인공지능(AI)으로 제작된 허위 영상과 조작 이미지가 소셜미디어 전반에서 빠르게 확산되고 있는 것으로 나타났다.

영국 BBC의 팩트체크 전담팀 ‘BBC 베리파이(BBC Verify)’ 분석에 따르면, 이들 영상은 수억 건의 조회수를 기록하며 확산 중이며, 상당수는 금전적 이익을 노리고 제작된 것으로 추정된다.

대표적인 사례로는 이스라엘 텔아비브에 미사일이 떨어지는 장면을 연출한 AI 생성 영상이 있다. 이 영상은 300개 이상 게시물에 삽입돼 수만 회 이상 공유됐다.

BBC에 따르면, 일부 X(옛 트위터) 이용자들은 플랫폼 내 AI 챗봇 ‘그록(Grok)’에게 진위를 문의했지만, BBC 베리파이가 검증한 결과 상당수 사례에서 그록은 AI 생성 영상을 실제 영상으로 잘못 인식한 것으로 드러났다.

또 다른 영상에서는 두바이 부르즈칼리파가 화염에 휩싸이고 군중이 건물을 향해 달려가는 모습이 등장한다. 두바이에 대한 드론·미사일 공격이 이어지던 시점에 공개된 이 영상은 수천만 회 이상 조회되며 혼란을 키웠다.

SNS에 유통된 인공지능(AI)으로 제작된 허위 영상 (사진=BBC)

BBC 베리파이는 이번 분쟁에서 특히 AI로 생성된 ‘위성 이미지’가 새롭게 등장한 점에도 주목했다. 분쟁 첫날에는 바레인 주둔 미 해군 제5함대 기지가 이란의 드론·미사일 공격을 받는 영상을 다수 확인했다. 그러나 이튿날 이란 관영지 테헤란타임스가 X에 공개한 기지 피해 사진은 BBC 분석 결과 조작된 이미지로 판명됐다. 해당 사진은 구글의 AI 툴을 이용해 생성 또는 편집된 것으로 밝혀졌다.

한 생성형 AI 전문가는 “지금처럼 고도로 사실적인 AI 조작물을 쉽게, 그리고 저렴하게 만들 수 있었던 적은 없었다”고 지적했다.

X 측도 문제를 인식하고 있다. 플랫폼 제품 총괄은 “AI 생성 영상을 확산시키는 계정의 99%가 ‘크리에이터 수익 공유 프로그램’을 통해 대규모 반응을 유도해 수익을 올리고 있다”고 밝혔다.

이 같은 허위 영상은 검증된 정보에 대한 신뢰를 훼손하고, 실제 증거를 기록하는 일을 훨씬 어렵게 만든다는 비판을 받고 있다.

퀸즐랜드공과대학교(QUT) 디지털미디어 전문가 티모시 그레이엄은 “X는 100만 건의 검증된 조회당 약 8~12달러를 지급하는 것으로 추정된다”며 “이제는 몇 분 만에 AI 도구로 그럴듯한 전쟁 영상을 만들어낼 수 있다”고 말했다.