|
뉴욕주 레티샤 제임스 검찰총장이 제기한 이번 소송에서 틱톡은 추천 피드를 초기화해 원치 않거나 유해한 콘텐츠를 피할 수 있도록 설계된 ‘알고리즘 리셋’ 기능 신청자 중 일부를 임의로 선정해 ‘플라시보’ 실험을 단행했다.
해당 기능을 활성화했다고 믿은 이용자들과 달리, 해당 실험군에 속한 청소년들의 추천 피드는 전혀 변경되지 않은 채 그대로 유지됐다.
고소장에 따르면 틱톡의 디지털 웰빙 담당 제품 매니저조차 내부 대화에서 “해당 기능은 알고리즘의 투명성과 통제권에 관한 것”이라며 “플라시보 집단을 두는 것은 이 취지와 완전히 충돌해 이용자 기만 행위가 될 수 있다”고 수 차례 문제를 제기했던 것으로 전해졌다.
하지만 틱톡은 2023년 수천명의 이용자를 대상으로 이같은 실험을 반복 시행했고, 안전 기능을 제대로 적용받지 못한 이용자들의 체류 시간과 광고 수익에 미치는 영향을 비교 분석한 것으로 밝혀졌다.
또 이번에 공개된 고소장에는 틱톡이 이용자 계정에서 유해 콘텐츠 노출을 제한하는 기존 안전 기능 자체를 임의로 꺼버리는 별도의 실험을 단행했다는 내용도 포함됐다.
심지어 이번 실험군에 포함됐던 뉴욕주의 한 10대 남학생은 자해 및 극단적 선택 관련 콘텐츠에 무차별적으로 노출된 끝에 숨진 것으로 알려졌다. 틱톡 내부 조사 결과에서도 해당 학생에게 극단적 선택 영상이 지속적으로 노출됐던 사실이 확인됐다.
틱톡 측은 성명을 내고 “대부분의 기업과 마찬가지로 실제 환경에서 사용자 경험을 검증하고 작동 방식을 이해하기 위해 정기적으로 새로운 제품과 기능을 테스트한다”며 “뉴욕주 검찰 주장은 ‘알고리즘 리셋’ 기능의 성격을 왜곡하고 있다”고 반박했다.
틱톡은 청소년 중독 유발 및 안전성 기만 혐의로 미국 내 20여개 주정부로부터 연쇄 소송을 당한 상태다. 지난달 틱톡은 앨라배마주가 제기한 소송에서 최대 3억 달러(약 4000억원)의 벌금을 지불하고 청소년 대상 플랫폼 운영 방식을 개편하기로 합의한 바 있다. 이번 뉴욕주의 고소장 봉인 해제로 틱톡에 대한 글로벌 규제당국의 압박은 한층 거세질 전망이다.
