Карли Мишель Хеллер (Karly Michelle Heller), которая переписывалась с Claude, была задержана в Бонита-Спрингс после того, как Anthropic передала полиции её сообщения с угрозой стрельбы. По словам Хеллер, она использовала чат-бот как дневник.
26 сентября Хеллер написала Claude, что собирается устроить стрельбу в офисе шерифа округа Ли. На следующий день она сообщила в переписке, что у неё появилось новое оружие. Из-за серьёзности сообщений система безопасности передала их на проверку сотрудникам Anthropic. После этого компания сообщила о переписке правоохранителям.
Полиция установила личность Хеллер, приехала к ней домой в Бонита-Спрингс и задержала её без происшествий. Ей предъявили обвинение в угрозе насилием, высказанной в письменной форме; судебное заседание назначено на ноябрь.
Политика Anthropic допускает передачу пользовательских данных правоохранителям в экстренных случаях, когда есть угроза смерти или причинения тяжкого вреда здоровью. Представители компании не прокомментировали задержание Хеллер на момент публикации. Доцент Университета Флорида-Галф-Кост, специалист по ИИ и менеджменту Крисанн Рюль (Chrissann Ruehle), напомнила, что чат-бот не стоит считать близким человеком.
ИИ — не ваш лучший друг. Нужно помнить, что это технология.
— Крисанн Рюль, доцент по ИИ и менеджменту
Шериф округа Ли Кармине Марсено (Carmine Marceno) заявил, что угрозы, сделанные с помощью ИИ, необходимо воспринимать серьёзно. Бывший специальный агент ФБР Ричард Колко (Richard Kolko) отметил, что правоохранители и суды ещё не выработали подход к угрозам, связанным с искусственным интеллектом.
Когда личная переписка с ИИ может быть передана полиции в чрезвычайной ситуации, где должна проходить граница между безопасностью и приватностью?
НовостиClaudeЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru