|
선거 기간 전후로 생성형AI 서비스인 ‘클로바X’와 ‘큐:’는 선거 결과 예측 등 정치적인 입장을 답변 등에 포함하지 않도록 기술적으로 조치했다. 네이버 관계자는 “AI 모델 학습과 운영 상 대응 등 기술적 조치를 계속 이어가고 있다”고 강조했다.
일부 이용자에만 제공되는 클로바X 이미지 편집 기능에는 얼굴합성 기능을 제한했다. 이에 따라 가령 이용자가 ‘OOO 후보자 얼굴로 바꿔줘’ 등을 요청하면 생성물을 제공하지 않는다. 음란물 등 콘텐츠가 생성되지 않도록 엔진 필터를 적용했다는 설명이다.
앞서 네이버는 카페와 블로그 콘텐츠 업로드 시에도 허위 정보와 딥페이크 영상이 법적 제재를 받을 수 있다는 문구를 지난달 노출하기 시작했다. 네이버 관계자는 “딥페이크로 인한 피해를 막기 위한 다양한 방안을 논의하고 있다”고 말했다.
|
더불어 카카오브레인의 이미지 생성형 모델 ‘칼로’에 일반 이용자에는 보이지 않는 비가시성 워터마크를 도입했다. 콘텐츠 제작자가 더 주의를 기울여 콘텐츠를 기획·제작하고 유통하도록 지원하기 위해서다. 허위 조작 정보를 신고할 수 있도록 여러 채널에서 안내 중이다.
아울러 네이버와 카카오는 생성형 AI가 작성한 기사에 AI 저작물임을 표시해 이용자가 이를 쉽게 인지하도록 할 방침이다.
앞서 양 사는 이달 초 한국인터넷자율정책기구(KISO) 회원사로서 딥페이크 기반 허위조작 정보의 대응 방향을 논의하기 시작했다. KISO 산하 신기술위원회에 참가해 심심이, 스캐터랩, 튜닙 등 챗봇 서비스 업체 및 전문가들과 관련 이슈를 중점 다루는 회의를 열고 대책을 강구했다. 신기술위는 총선 기간 딥페이크 기술을 이용한 허위조작 정보가 확산할 가능성을 예의 주시하며 구체적인 사례를 수집·분석할 예정이다.
