EU, 성적 이미지 생성 논란 '그록' 조사 착수

[이데일리 방성훈 기자] 유럽연합(EU)이 엑스(X·옛 트위터)의 인공지능(AI) 챗봇 ‘그록’이 성적 이미지를 생성했다는 논란과 관련해 대대적인 조사에 착수했다. 지난해 말 일부 이용자들이 그록으로 여성과 아동의 옷을 벗긴 딥페이크 이미지를 대량 생산·유포하면서 전 세계적으로 논란이 확산했다.

(사진=AFP)

26일(현지시간) CNN방송 등에 따르면 EU 집행위원회는 이날 성명을 내고 “X가 EU 내에서 그록 기능을 도입하는 과정에서 관련 위험을 적절히 평가하고 완화했는지 여부를 광범위하게 검토할 것”이라고 밝혔다. 디지털서비스법(DSA)에 규정된 위험 평가 의무 등이 제대로 지켜졌는지 검토하겠다는 의미다.

EU 집행위는 또 그록 도입에 따른 위험이 이미 현실화해 EU 시민이 심각한 피해에 노출된 걸로 보인다고 지적하며, 아동성착취물(CSAM)을 비롯한 성적 이미지 등 불법 콘텐츠 유포도 조사 대상에 포함된다고 덧붙였다.

EU 집행위 기술·안보·민주주의 담당 고위 관리인 헤나 비르쿠넨은 성명에서 “여성과 아동을 대상으로 한 성적 딥페이크는 폭력적이며 용납할 수 없는 인격 침해 행위”라며 “이번 조사를 통해 X가 법적 의무를 준수했는지, 혹은 유럽 시민, 특히 여성과 아동의 권리를 서비스 운영의 ‘부수적 희생’으로 취급했는지 판단할 것”이라고 설명했다.

딥페이크 연구자 제네비브 오(Genevieve Oh)가 지난 5~6일 24시간 동안 그록 이미지 생성을 분석한 결과 시간당 약 6700건의 성적 이미지가 만들어졌다. 이는 경쟁 플랫폼(평균 79건)의 85배에 달한다. 일론 머스크 테슬라 최고경영자(CEO)의 13번째 자녀를 출산한 전 연인이자 인플루언서인 애슐리 세인트 클레어마저 피해를 호소했다.

X는 CNN의 논평 요청에 지난 14일자 공식 성명으로 입장을 대신했다. X는 이 성명에서 “아동성착취물과 동의가 이뤄지지 않은 노출물 등 우선순위가 높은 위반 콘텐츠를 삭제하고, 규정 위반 계정에 적절한 조치를 취할 것”이라며 ”아동성착취물을 검색·유포하려는 계정은 필요시 법집행기관에 신고할 것“이라고 밝히고 있다.

X는 처음에는 유료 가입자에게만 이미지 생성 기능을 제한하겠다고 밝혔다가 비난이 거세지자 입장을 바꿨다. EU 집행위 측은 X가 일부 대응에 나선 사실을 인정하면서도 여전히 “챗봇을 출시하기 전 적절한 위험 평가를 수행하지 않았다”고 지적했다.

조사 완료 시점이나 향후 EU의 구체적 조치 일정은 아직 정해지지 않았다. 익명을 요구한 EU 관계자는 “우리는 다양한 법적 수단을 갖고 있으며, 벌금 부과도 가능하다”며 “궁극적인 목표는 플랫폼의 행태를 바꾸는 것”이라고 전했다.

EU는 지난해 12월에도 X에 약 1억 4000만달러의 벌금을 부과한 바 있다. 유료 인증 마크(블루 체크) 등 일부 기능이 ‘기만적 설계’(deceptive design)에 해당해 DSA를 위반했다고 판단에서다. 이에 머스크 CEO는 “미친 결정”이라며 반발했다. 벌금은 아직 납부되지 않은 상태다.

한편 그록의 딥페이크 이미지 생성은 다른 국가에서도 논란이 되고 있다. 인도네시아와 말레이시아는 그록 이용을 금지했고, 영국 규제기관 오프콤(Ofcom)도 X에 대한 공식 조사를 진행 중이다.

미국에서도 캘리포니아주의 롭 본타 법무장관이 이달 초 “그록을 통해 생성된 비동의 성적 이미지 확산에 대한 조사를 개시했다”고 발표했다.