Meta* начала уведомлять родителей и опекунов, если переписка подростка с Meta AI указывает на мысли о самоповреждении или суициде. Новая система работает в Instagram, Facebook, Messenger, Meta AI и веб-версии, а часть пользователей уже может ею пользоваться.
Перед отправкой предупреждения Meta вручную проверяет все чаты, которые ИИ пометил как тревожные и если намерение подростка кажется неочевидным, компания всё равно выбирает более осторожный вариант и отправляет уведомление, чтобы не пропустить возможный риск. В сообщении для родителей Meta обещает показывать не только предупреждение, но и ресурсы с советами о том, как помочь ребёнку. Компания отдельно отмечает, что Meta AI уже направляет подростков к контактам кризисной помощи и советует обратиться к взрослому, который может помочь.
Принцип работы новой системы безопасности
Meta также создаёт отдельную ИИ-систему, чтобы распознавать такие разговоры. Кроме того, компания работает над возможностью связываться с экстренными службами, если переписка с Meta AI покажет непосредственную угрозу самоубийства у пользователя. К слову, ЕС предложит запрет детям до 13 лет на самостоятельный доступ к соцсетям.
Сейчас функция уже доступна родителям с включённым родительским контролем в Instagram в США, Великобритании, Австралии и Канаде. До конца года Meta обещает открыть уведомления для всех по всему миру. При этом настройка в Instagram теперь ограничивает и общение с Meta AI, если родитель уже включил фильтрацию чувствительных тем. Именно здесь и начинается самый спорный момент: Meta одновременно усиливает защиту подростков и перекладывает часть модерации на родителей и ИИ.
Сработает ли такая система лучше, чем обычные фильтры, или только добавит тревоги родителям и подросткам? Делитесь мнением в комментариях.
*Meta признана экстремистской организацией, её деятельность запрещена на территории РФ.
НовостиСервисы и соцсетиMetaЖелезо и технологииОС и программыискусственный интеллект
Источник: vgtimes.ru