"내 얼굴이 왜 여기서 나와?"…터치 한번에 합성 딥페이크앱 어쩌나

최근 연예인 유병재씨의 인스타그램에 올라온 영상이 화제를 모았다. 이 영상은 여성 모델의 영상에 유씨의 얼굴을 합성한 것으로 어플 '페이스플레이(faceplay)'를 이용해 만들었다. 유씨 뿐만 아니라 가수 이특, 배우 김가연씨도 이 어플을 활용한 영상을 본인의 SNS에 올렸다. 딥페이크 기술을 활용한 또다른 영상 제작 어플로 '리페이스(Reface)'가 있다.

텔레그램 'N번방'에서 성착취물 영상 제작 등 범죄에 이용돼 논란을 일으킨 기술 '딥페이크(Deepfake)'가 '양지'로 나섰다.

손쉬운 사용에 재미까지 더해져 딥페이크 영상 제작이 SNS에서 유행처럼 확산하고 있다. 현재 인스타그램에서 reface 해시태그를 단 게시물은 26만7000개, faceplay는 3만2000개에 달한다.

별다른 기술 없이 어플리케이션(어플) 을 이용해 손쉽게 딥페이크 영상을 만들수 있게 되면서 다양한 분야에 쓰이고 있다. 다만 일각에서는 해당 앱을 이용한 범죄가 발생하지 않을까 우려하는 목소리가 나온다.

터치 한 번이면 합성 가능...사진 도용 우려도

어플리케이션의 사용법은 매우 간단하다. 합성하고 싶은 영상을 선택한 후, 얼굴 사진을 업로드한 뒤 제작 버튼만 누르면 곧바로 딥페이크 영상이 제작된다.

우리나라에서 딥페이크 영상이 대중적으로 널리 알려지는데는 'N번방' 등 성범죄 사건의 영향이 크다. 온라인 상에서는 연예인 뿐만 아니라 일반인 사진을 도용해 딥페이크 기술을 활용한 성착취물 영상이 제작돼 사회적으로 문제가 됐다.

지난 1월에는 "불법 영상·딥페이크를 강력히 처벌해달라"는 내용의 청와대 국민청원이 올라와 한 달만에 39만명의 동의를 받았다. 이어 지난 5월 류호정 정의당 의원이 '딥페이크 성착취' 영상 등을 소지만 하더라도 처벌할 수 있는 성폭력 처벌법 개정안을 대표발의하기도 했다.

이에 일각에서는 딥페이크 기술을 '놀이'로 치부하는 것에 대한 우려를 표했다. 누리꾼들은 '딥페이크의 순기능이 도대체 뭐냐' '딥페이크로 인한 피해가 큰데 이걸 왜 '신기하다' '재밌다'는 식으로 포장하냐' 등의 반응이 나온다.

또한 사진 한 장만 가지고도 손쉽게 딥페이크 영상을 만들 수 있다는 점에서 타인이 본인의 사진을 도용해 딥페이크 영상을 제작 및 유포하지 않을까 하는 우려도 나온다.

김명주 서울여대 바른AI 연구소장은 "'딥페이크'라는 명칭에서부터 부정적인 의미를 내포하고 있는 것 같지만 최근 딥페이크 기술은 메타버스와 결합해 기술 혁신에 기여하고 있다"며 "'인공지능으로 만들어진 인물'은 곧 딥페이크 기술이 사용됐다는 뜻"이라고 말했다.

김 소장은 딥페이크 기술의 순기능을 살리고 역기능을 줄이기 위해서는 무엇보다 이용자 윤리 교육이 필요하다고 강조했다. 특히 류호정 의원이 대표발의한 성폭력처벌법 개정안은 딥페이크를 이용한 '음란물'만을 규제한다는 점에서 한계가 있다고 지적했다.

그는 "최근 초등학생들 사이에서는 딥페이크 영상을 만들어 유포하는 등의 따돌림 수법이 퍼지고 있다"며 "딥페이크 기술 악용이 단지 '음란물 제작'에만 한정된 것이 아니라 사용하는 사람에 따라 다양하게 변형될 수 있다"고 말했다.

김 소장은 "기술 자체의 문제가 아니라 이를 사용하는 이용자 윤리 교육이 가장 필요한 상태"라며 "윤리의식이 부족한 상태에서 법으로 일부 문제를 규제하거나 기술적인 제재를 만든다고 해서 문제가 해결되는 것은 아니다"라고 덧붙였다.