Во Флориде арестовали 30-летнюю женщину, которая, как пишут СМИ, обсуждала угрозы местному отделу шерифа во время личной переписки с ИИ-чатботом Claude. Согласно полицейскому отчёту, 26 сентября женщина написала о «намерении напасть на офис шерифа», а 27 сентября сообщила, что обзавелась оружием и назвала это «последним предупреждением».
Сообщения автоматически обнаружила система безопасности Anthropic. Когда переписка достигла «определённого уровня риска», её перепроверили сотрудники компании. Они сочли угрозы «достаточно серьёзными» и сообщили о них правоохранительным органам.
Полиция вскоре задержала женщину. Ей предъявили обвинение в «письменной угрозе насилием». Во Флориде это преступление, за которое предусмотрено до 15 лет тюрьмы и штраф до $ 10 000.
Источник: www.ferra.ru