По данным иска штата Нью‑Йорк к TikTok, компания провела эксперимент на тысячах пользователей, пытавшихся активировать функцию безопасности: им предоставлялись нерабочие версии этого инструмента.
В ходе так называемых «призрачных» экспериментов (или экспериментов с эффектом плацебо) TikTok отбирал тысячи пользователей — включая детей и подростков, — решивших воспользоваться такими функциями безопасности, как «Algo Refresh» (инструмент для сброса рекомендаций, предназначенный для тех, кто хочет оградить себя от нежелательного или потенциально вредного контента). Как утверждается в иске, эти пользователи полагали, что активировали функцию, однако их ленты не менялись — в отличие от лент тех, кто получил полностью рабочую версию.
Обнародованные сведения являются частью иска, поданного генеральным прокурором штата Нью‑Йорк Летицией Джеймс; это одно из более чем двух десятков судебных разбирательств, инициированных властями штатов, которые обвиняют TikTok в намеренном проектировании платформы так, чтобы вызывать у детей зависимость, а также во введении пользователей в заблуждение относительно безопасности сервиса. Многие документы по делам, рассматриваемым в разных штатах, были засекречены или подвергнуты значительной цензуре, поскольку TikTok стремится скрыть от общественности подробности своей деятельности.
Согласно иску, TikTok заверяет пользователей в том, что безопасность является главным приоритетом, а платформа подходит для детей и подростков, но при этом компания сознательно ограничивает доступ определённых групп к некоторым инструментам защиты — в частности, тех, кто целенаправленно пытался избежать нежелательного или потенциально вредного контента.
«Мы постоянно совершенствуем нашу платформу, а это означает, что, как и большинство компаний, мы регулярно тестируем новые продукты и функции, чтобы проверить пользовательский опыт и понять, как они работают в реальных условиях», — заявил представитель TikTok. Компания категорически отвергла обвинения штата Нью‑Йорк и заявила, что обеспечение безопасности юных пользователей является для неё приоритетной задачей.
В сентябре TikTok урегулировал первый иск штата, дошедший до стадии судебного разбирательства, согласившись выплатить Алабаме до $300 млн и изменить принципы работы платформы для подростков в этом штате.
В жалобе штата Нью‑Йорк содержатся утверждения, что менеджер по продукту TikTok, отвечающий за направление «цифрового благополучия» (Digital Well Being), во внутренней переписке отмечал проблему с проведением плацебо‑тестирования функции «Algo Refresh». «Суть этой функции — в прозрачности алгоритма и возможности управления им, — писал сотрудник во внутреннем чате. — Использование контрольной группы, получающей „плацебо“, полностью противоречит этой идее».
В итоге компания всё же неоднократно проводила такие тесты на тысячах пользователей в 2023 году, сравнивая тех, у кого функция была доступна, с теми, у кого её не было, чтобы оценить время пребывания на платформе и влияние на доходы от рекламы.
Также в иске утверждается, что TikTok вводил потребителей в заблуждение относительно принципа работы «Algo Refresh», заявляя, что функция сбрасывает алгоритм рекомендаций видео, хотя на самом деле изменения носили лишь временный характер. Представитель TikTok заявил, что эти утверждения неверно описывают работу функции «Algo Refresh».
В обнародованных материалах говорится, что TikTok проводил отдельную серию экспериментов, о которых ранее сообщало агентство Bloomberg. В ходе этих тестов компания случайным образом отбирала пользователей и отключала в их аккаунтах функции безопасности, ограничивающие доступ к вредоносному контенту. По данным Bloomberg, один из участников эксперимента — подросток из Нью‑Йорка — покончил с собой после того, как ему был показан контент, связанный с членовредительством и суицидом.
Между тем Еврокомиссия заявляла, что дизайн TikTok нарушает требования закона о цифровых услугах (DSA). Речь идет о функциях, которые, по мнению регуляторов, намеренно усиливают вовлечённость и формируют зависимость у пользователей. Под претензии попали сразу несколько ключевых элементов продукта. В их числе бесконечная прокрутка ленты, агрессивно персонализированные рекомендации и система push‑уведомлений, которые стимулируют пользователя возвращаться в приложение снова и снова. Компании может грозить штраф до 6% от глобальной годовой выручки, а также обязательство изменить продуктовый дизайн в Европе.
Источник: habr.com