틱톡, 청소년 대상 '가짜 안전기능' 실험 의혹

미국 뉴욕주 검찰총장실이 공개한 틱톡 소송 서류에 따르면, 틱톡은 2023년 청소년을 포함한 수천 명을 대상으로 '알고리즘 새로고침' 기능이 실제로는 작동하지 않는 '플라시보 실험'을 진행했다. 이용자는 추천 알고리즘이 초기화됐다고 믿었지만 실제 피드는 변하지 않았고, 틱톡은 이를 정상 작동 집단과 비교해 체류시간과 광고 수익 변화를 분석한 것으로 알려졌다. 내부 직원도 실험이 이용자를 오도할 수 있다고 문제를 제기했지만 실험은 반복됐다. 서류에는 유해 콘텐츠 제한 기능을 무작위로 해제한 별도 실험 의혹도 포함됐다. 틱톡은 일반적인 기능 테스트였다며 혐의를 부인했다.

이 일이 어디서 왔나

뉴욕주 검찰총장실의 이번 소송 서류는 '안전 기능'이 표시된 대로 작동하는지 외부에서 검증하기 어렵다는 문제를 다시 드러낸다. 같은 10월 7~8일 사이 오픈AI의 청소년용 챗GPT 안전장치 역시 위기 상황에서 제대로 작동하지 않는다는 테스트 결과가 잇따라 공개됐다. 국내에서도 9월 28일 한국소비자연맹 주최 토론회에서 플랫폼의 '안전설계'를 사전에 검증할 제도가 필요하다는 논의가 있었다.