“서울 시내서 용암 분출 중” 속보에 화들짝...알고 보니

[이데일리 홍수현 기자] 인공지능(AI)을 활용해 만든 영상이 현실과 구분이 어려워지는 수준에 이르면서 우려의 목소리가 커지고 있다.

AI 생성 경고 영상 캡처 (사진=유튜버 딸깍 디자이너 제공)

최근 사회관계망서비스(SNS) 스레드 등 온라인상에서는 ‘서울 시내에 용암이 분출되고 있다’는 내용의 뉴스 속보를 전하는 영상이 화제가 되고 있다.

영상을 보면 아나운서는 “현재 서울 시내에 용암이 분출하고 있다”라고 멘트 후 현장 기자를 연결한다. 이어 화면에 등장한 취재 기자 뒤로는 시내 한복판에 시뻘건 용암이 솟아오르고 있다. 취재 기자는 “뒤에 보이는 용암은 진짜가 아닙니다. 그리고 저도 AI입니다”라고 말했다.

화면에 나타난 또 다른 아나운서는 “엄마, 아빠 조심하세요. 우리는 AI입니다”라고 했고, 뒤이어 등장한 학생, 사업가, 연예인 등도 모두 “나는 AI입니다”라고 강조하며 시청자에게 “속지 말라”고 경고했다.

특히 이들은 “나는 핸드폰을 잃어버리지 않았다. 기프트 카드를 사주지 않아도 된다” “이 주식으로 월 천만원을 벌었다. 사실 그럴 리가 없다” 등 최근 성행하는 전자 금융 사기 범죄 수법을 언급해 눈길을 끌었다.

아무 의심 없이 콘텐츠를 수용하는 현실을 풍자한 해당 영상에는 구글의 동영상 생성 AI 모델 ‘비오3’(Veo)가 활용됐다.

해당 영상을 제작한 유튜버 ‘딸깍 디자이너’는 연합뉴스에 “뉴스에서 일론 머스크의 얼굴로 로맨스스캠(연애 빙자 사기)을 당한 사례가 인상 깊었다”며 “조악한 AI 기술로도 사람들이 속을 수 있다는 게 놀라웠다”며 영상 제작 배경을 전했다.

그는 “비오3로 누구나 마음만 먹으면 쉽게 영상과 음성을 생성할 수 있다”며 “AI 생성 영상에 대한 접근성이 쉬워지는데 이에 대한 경각심이나 인식은 낮은 것 같다”고 덧붙였다.

AI 생성 경고 영상 캡처 (사진=유튜버 딸깍 디자이너 제공)

이처럼 AI를 통해 만든 영상이 실제와 구분이 어려운 수준에 이르자 콘텐츠에 AI 사용 여부를 밝혀야 한다는 목소리도 커지고 있다.

지난 1월 제정돼 내년 시행을 앞둔 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’ 제31조에 따르면, AI 사업자는 AI 시스템을 이용해 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공할 때, 해당 결과물이 AI 시스템에 의해 생성됐다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지 또는 표시해야 한다.