Мессенджер WhatsApp** начал ограниченное тестирование функции Scam Alert, которая будет предупреждать пользователей о потенциальных сообщениях от мошенников. Сейчас она доступна части участников бета‑тестирования WhatsApp** для Android.
Функция работает на основе небольшой ИИ‑модели, которая запускается непосредственно на устройстве пользователя. Она анализирует сообщения от людей, которых нет в контактах, изучая их на предмет характерных для мошенничества языковых и структурных признаков. Модель обучали на примерах мошеннических переписок, которые пользователи ранее отправляли WhatsApp** в качестве жалоб.
Если система посчитает сообщение подозрительным, прямо в чате появится предупреждение. Сам отправитель этого предупреждения не увидит. Пользователь сможет заблокировать или пожаловаться на контакт либо отметить переписку как доверенную.
При этом содержимое сообщений не отправляется на серверы WhatsApp** для анализа. Обработка происходит локально, что позволяет сохранить сквозное шифрование переписки. Функция отключена по умолчанию и активируется пользователем самостоятельно.
В WhatsApp** также появился локальный журнал активности Scam Alert. В нём можно посмотреть, когда функция работала, какие сообщения она пометила и какая версия модели использовалась.
Если пользователь считает предупреждение ошибочным и отмечает чат как доверенный, он может добровольно отправить WhatsApp **последние пять полученных сообщений. Компания обещает использовать такие данные для улучшения модели и снижения количества ложных срабатываний.
Пока Scam Alert распространяется ограниченно среди бета‑тестеров на Android. Впоследствии WhatsApp** планирует расширить доступность функции, в том числе на iOS, однако сроки массового запуска пока не объявлены.
Meta Platforms*, а также принадлежащие ей социальные сети Facebook**, WhatsApp** и Instagram**:
* — признана экстремистской организацией, её деятельность в России запрещена;
** — запрещены в России.
Источник: habr.com