В иске генпрокурора Нью-Йорка утверждается, что TikTok тестировал неработающие версии функции Algo Refresh на тысячах пользователей, включая детей и подростков. Reuters сообщило об этих обвинениях после публикации материалов судебного дела.
Algo Refresh предназначена для сброса рекомендательной ленты, чтобы пользователь мог убрать нежелательные или потенциально вредные публикации. Согласно иску, участники так называемых плацебо-тестов считали, что включили инструмент, однако рекомендации не менялись. У пользователей, которым досталась рабочая версия, лента обновлялась.
Прокуратура Нью-Йорка утверждает, что в 2023 году TikTok сравнивал поведение пользователей с работающей и неработающей функцией, в частности чтобы оценить время в приложении и влияние инструмента на рекламные доходы. Внутренний сотрудник, отвечавший за цифровое благополучие, предупреждал, что плацебо-версия противоречит цели функции и может вводить пользователей в заблуждение.
В материалах дела также говорится, что компания сообщала о сбросе алгоритма, хотя эффект, по утверждению властей, был временным. TikTok оспаривает обвинения. Представитель компании заявил Reuters, что они искажают принцип работы Algo Refresh, а тестирование новых функций необходимо для оценки пользовательского опыта.
Иск Летиции Джеймс подан в 2024 году. Нью-Йорк входит в число более чем двух десятков штатов, утверждающих, что платформа вызывает зависимость у детей и вводит пользователей в заблуждение о мерах безопасности. В отдельных эпизодах, о которых ранее писал Bloomberg, утверждается, что TikTok отключал функции, ограничивающие доступ к потенциально вредным материалам. Судебные материалы описывают ленту подростка из Нью-Йорка с большим количеством публикаций о самоповреждении, но не устанавливают, что они стали причиной его смерти.
В сентябре 2026 года TikTok согласился выплатить штату Алабама до 300 млн долларов и изменить работу платформы для подростков. Ранее компания и её материнская структура ByteDance согласились выплатить 400 млн долларов в рамках дела Министерства юстиции США о нарушении закона о конфиденциальности детей в интернете.