Австралийский регулятор интернет‑безопасности eSafety провёл комплексную проверку практик модерации в Telegram. Ресурс Telegram Info проанализировал это исследование, в котором администрация мессенджера раскрыла регулятору некоторые детали работы систем, блокирующих незаконный контент. В отчёте eSafety указано, как Telegram балансирует между приватностью и безопасностью, какое количество жалоб обрабатывают модераторы, а какое — алгоритмы, а также как работает автоматическое сканирование контента.
Согласно данным Telegram Info:
Модерация в личных чатах:
Telegram не сканирует личные чаты и не выявляет в них новый или известный незаконный контент;
мессенджер может выполнить автоматическую проверку или передать сообщения модератору только в том случае, если получатель отправит жалобу.
Модерация в секретных чатах:
сообщения из секретных чатов не пересылаются модераторам даже при жалобе одной из сторон;
вместо текста сообщений для анализа жалоб в секретных чатах Telegram использует «альтернативные сигналы», которые не могут быть раскрыты общественности.
Модерация в частных каналах и группах:
большинство частных каналов и групп невидимы для модераторов, если только один из участников не отправит на сообщество жалобу;
правила Telegram запрещают пропаганду насилия и распространение незаконного порнографического контента в публично доступных каналах, группах, ботах и т.п. Несмотря на это, мессенджер не терпит незаконный контент в любой части сервиса;
представители Telegram уточняют, что публичными в правилах подразумеваются любые активно модерируемые части приложения;
отсутствие юзернейма не обязательно делает канал приватным: Для модераторов канал или чат считается публичным в случае, когда он становится доступным для широкой общественности через ссылку-приглашение. Например, если ссылка в частный чат размещена в общедоступной части Telegram или другой социальной сети, то такое частное сообщество считается общедоступным для целей модерации контента (благодаря тому, что модераторы могут перейти по ссылке и просмотреть сообщения внутри).
фото и видео во всех частных группах и каналах сканируются системой автоматического выявления известного незаконного контента.
Автоматическое обнаружение незаконного контента:
Telegram умеет автоматически выявлять незаконный контент в фото, видео и тексте, но делает это не во всех случаях;
мессенджер не сканирует личную переписку автоматически, если только один из участников не отправит жалобу;
65% автоматически выявленного потенциально экстремистского контента отправляется на ручную проверку модераторам;
при обнаружении вероятного нового материала с насилием над детьми он либо немедленно обрабатывается автоматически, либо отправляется на проверку модератору «в зависимости от степени достоверности, с которой модель способна вынести решение, в сочетании с другими факторами».
Техническое устройство автоматических систем:
в основном Telegram использует только собственные базы сигнатур для автоматического обнаружения незаконного контента. База собирается только из материалов, выявленных модераторами мессенджера вручную;
Telegram также регулярно изучает базы сигнатур Европола для их интеграции в свои системы;
модели и инструменты для обнаружения экстремистских текстов работают достаточно хорошо на большинстве языков;
системы Telegram отслеживают когда, почему и как часто пользователя удаляют администраторы групп, и в отдельных случаях могут принимать соответствующие меры. Кроме того, эти показатели учитываются ИИ-моделями Telegram как для приоритизации жалоб, так и для автоматического принятия решений;
мессенджер использует некоторые сигналы, чтобы определять новые группы, которые похожи на ранее заблокированные группы;
чёрные списки ссылок не используются. Telegram заявил, что «сосредоточение усилий на классификации на основе машинного обучения, как правило, даёт лучшие результаты по сравнению со статическими чёрными списками ссылок»;
Telegram заявил, что проводит «обширный мониторинг» источников СМИ, а также просматривает ссылки, отправленные «незарегистрированными пользователями и доверенными организациями» в Telegram по электронной почте.
Жалобы пользователей обрабатываются «инструментами» Telegram, модераторами, и, при необходимости, моделями искусственного интеллекта/машинного обучения. 75% жалоб пользователей на экстремистский контент отправляется на ручную проверку модераторам.
Дополнительно о модерации в Telegram:
после удаления чата или канала модераторы вручную проверяют самые популярные поисковые запросы, по которым пользователи находили это сообщество. Это делается для того, чтобы, возможно, исключить эти запросы из публичного поиска Telegram и таким образом ограничить распространение и доступность похожего контента в будущем.
если администраторы группы сами не нарушают правила Telegram (например, если группа временно пострадала от действий злоумышленников), модераторы Telegram могут по своему усмотрению временно закрыть её, дав администраторам возможность устранить нарушения.
однако, если сообщество используется для распространения запрещённого контента, неважно — администраторами или участниками, то такое сообщество, его администраторы, а также пользователи, нарушившие условия использования Telegram, могут быть заблокированы навсегда.
когда Telegram выявляет пользователя, распространяющего экстремистские материалы, мессенджер проверяет «другие жалобы, связанные с этим пользователем, а также любые сообщества, которыми этот пользователь владеет или управляет». Telegram указал, что любые сообщества, уличённые в распространении подобных материалов, также будут удалены.
подписчики каналов или участники групп, которые «не занимаются администрированием, непосредственным распространением или продвижением запрещённого контента, даже если состоят в сообществах, где такой контент может присутствовать, не будут автоматически заблокированы». Такой подход, по словам Telegram, был принят, чтобы не причинить случайного ущерба сотрудникам правоохранительных органов, журналистам, активистам и другим пользователям, которые могут состоять в подобных группах по объективным причинам.
учитывая серьёзность насилия над детьми, любое нарушение, связанное с ним, обычно приводит к необратимому удалению соответствующих аккаунтов и сообществ. Владельцы таких групп и каналов также могут быть удалены.
Telegram делится личными данными заблокированных пользователей только с правоохранительными органами.
компания ежедневно перепроверяет от 1 до 5% всех отчётов, случайным образом распределяя их среди модераторов, чтобы определить возможный уровень ошибок. В Telegram заявили: «Модераторы, допускающие ошибки выше допустимого уровня либо систематические, грубые или существенные ошибки, подлежат замене».
Ранее профильные эксперты выяснили, что администрация мессенджера Telegram в конце прошлого года и начале этого года передала данные более 33 тыс. пользователей‑преступников (IP‑адреса и номера телефонов тех, кто нарушает правила мессенджера) по запросу правоохранительных органов 32 стран мира.
2 октября 2024 года основатель мессенджера Павел Дуров заявил, что Telegram с 2018 года раскрывает IP‑адреса и номера телефонов преступников властям по запросу.
23 сентября 2024 года Дуров рассказал, что поиск в Telegram стал безопаснее, а IP‑адреса и номера телефонов пользователей‑нарушителей правил площадки могут быть раскрыты соответствующим органам в ответ на обоснованные юридические запросы правоохранительных структур.
В январе 2025 года администрация Telegram помогла полиции, раскрыв личную информацию (IP-адрес и номер телефона) 17-летнего хакера, укравшего базу с данными 19,2 млн пользователей французского мобильного оператора Free.
Источник: habr.com
Похожие новости:
«Слушая подкасты, ничего не узнаешь, ты должен устать, упасть без задних ног — такой должна быть встреча с образованием»
Уровень «цифровой зрелости» компаний в России выше, чем в среднем по миру
Гиперперсонализация: как сделать предложение пользователю релевантным
В Москве завершил работу 27-й форум медиаиндустрии CSTB.PRO.MEDIA 2025