"AI가 만든 생성물, 비가시성 워터마크로 잡아낸다"

[도쿄(일본)=이데일리 김세연 기자] “저희의 비가시성 워터마크는 사진을 압축하거나 잘라도 살아남습니다. 인공지능(AI) 학습데이터로 활용할 때도 저희 워터마크는 살아 있을 가능성이 매우 높죠.”

민경욱 스냅태그 대표가 지난 20일 일본 도쿄 LYF에서 열린 기자간담회에서 자사의 비가시성 워터마크 ‘K-Safe’를 시연하고 있다.(사진=김세연기자)

민경웅 스냅태그 대표는 지난 20일 일본 도쿄에서 열린 기자간담회에서 자사의 비가시성 워터마크 ‘K-Safe’에 대해 이같이 말했다. 그는 자사 비가시성 워터마크는 데이터 손상에 강하다고 자부심을 보였다. 민 대표는 “하나의 AI 생성물에 동일한 워터마크를 여러 개 넣는다. 1024·1024 픽셀 기준으로 동일한 워터마크 700개를 넣는 등 내구성을 강화했다”며 “물론 각 워터마크에 유일한 정보도 들어가지만 (700개 워터마크 중) 1~2개만 살아남아도 워터마크가 의미하는 값을 추적할 수 있다”고 밝혔다.

K-Safe는 생성 AI 콘텐츠에 사람 눈에 보이지 않는 신뢰성 검증 수단 ‘비가시성 워터마크’를 삽입하는 서비스다. 오는 22일 AI기본법이 시행되면서 사회적 관심이 높아졌다. 스냅태그의 비가시성 워터마크는 워터마크 안에 AI 생성물을 어떤 생성형 AI가 만들었고, 어떤 이용자가 만들었는지 등 정보를 남긴다. 결국 일부 워터마크 손상 속에서도 이 정보를 읽어낼 수 있다는 게 민 대표 설명이다.

워터마크가 삽입된 AI생성물을 또 다시 AI 학습데이터로 사용해도 스냅태그의 워터마크는 유효하다. 민 대표는 “데이터 증강을 할 때 그 안에 들어 있는 정보들이 많이 손상된다. 정보끼리 제대로 매칭이 안 되는 문제가 있다”며 “우리 워터마크는 매칭 데이터베이스까지 만들어놓은 덕에 증강 과정에서도 살아남는다”고 말했다. 즉, AI생성물로 또 다른 AI생성물을 만들어도 어떤 생성형 AI들이 만든 정보가 모여 새로운 정보가 형성된 것인지 파악할 수 있다.

이처럼 손상에 강하도록 내구성을 높이는 것은 비가시성 워터마크 기술의 핵심이다. AI 생성물을 배포·공유·재사용하는 과정에서 데이터 크기가 축소되거나 원 출처를 찾을 수 없는 일이 잦아서다. 가령 사진을 사회관계망서비스(SNS)에 업로드 하면 사진의 용량이나 질이 떨어지는 ‘압축’ 현상이 일어나는데 이 과정서 워터마크가 사라지지 않아야 원저작자를 무사히 찾아낼 수 있다.

비가시성 워터마크는 AI 생성물 출처 표기에만 사용되는 건 아니다. 정보가 유출됐을 때 유출자를 찾아내는 서비스도 가능하다. 민 대표는 “K-Safe는 정보보호 서비스로서 정부기관, 군, 대기업에서 50만명 이상의 정보보호를 위해 매일 사용한다”며 “누가, 언제, 어디서 활용했는지 확인 가능하다. 가령 사진 유출자를 찾아내는 서비스도 가능하며 법적 책임을 줄 수 있을 정도로 신뢰도가 검증됐다고 본다”고 자신감을 보였다.

스냅태그는 정보보호·이미지 처리·AI 기반 기술 솔루션을 개발하는 회사로 100억원 이상의 투자를 유치했다. 정품 인증 등을 타겟으로 사업을 시작했지만 AI 발전 및 개인정보 보호 흐름에 따라 비가시성 워터마크 기술 개발에도 나섰다. 스냅태그는 K-Safe 서비스를 AI 기업이 즉시 도입할 수 있도록 응용프로그램 인터페이스(API) 형식으로 공급한다.

민 대표는 AI기본법 시행에 발맞춰 생성AI스타트업협회와 함께 K-Safe 무료 공급에도 나섰다. 그는 이날 오전 일본 도쿄 스타트업 혁신 센터(TiB)에서 열린 한일 AI 스타트업 밋업데이에서 “AI기본법이 시행되며 AI 출처 표기와 확인이 의무화됐다. 당연히 규제는 지키고 따라야 하지만 규제 대응은 굉장히 큰 부담”이라고 배포 이유를 밝혔다.

이에 더해 비가시성 워터마크 ‘표준화’를 이끌고자 하는 목적도 있었다. K-Safe가 전용 모듈로만 워터마크를 정보를 읽어낼 수 있듯 워터마크를 해독하는 ‘디코딩’ 방식도 각 기업의 기술이다. 민 대표는 “(각 기업의) 비가시성 워터마크는 해독 방법이 다 다르다. 엄청난 혼란이 올 수밖에 없는 구조”라며 “표준화가 필요하다고 생각했다”고 추가 이유를 밝혔다.

스냅태그 서비스에 대한 AI 기업들의 관심도도 높다. 최근 뤼튼테크놀로지스는 K-Safe 공개 API 도입 여부를 검토하기 위해 베타테스트에 착수했다.