Жительнице города Бонита‑Спрингс в штате Флорида 30-летней Карли Мишель Хеллер предъявили обвинения в совершении тяжкого преступления, когда стало известно, что она обсуждала с чат‑ботом Claude планы устроить стрельбу в офисе шерифа, пишет Gulf Coast News.
Во время беседы с инструментом искусственного интеллекта от Anthropic Хеллер рассказала, что уже купила оружие.
Общение с чат‑ботами нельзя назвать конфиденциальным. Компании‑разработчики ИИ создали механизмы защиты, которые помечают подозрительные сообщения, представляющие угрозу опасных действий. Именно это и произошло в случае Хеллер. Системы безопасности Anthropic обнаружили серьёзные угрозы на основе сообщений женщины. Затем эти опасения проверил специалист, который и сообщил о рисках правоохранителям.
Хеллер арестовали у неё дома. Женщине предъявили обвинения в совершении преступления второй степени в соответствии со статьёй 836.10 закона Флориды. Статья предусматривает ответственность за публикацию или передачу электронного сообщения с угрозой убийством или причинения телесных повреждений, в том числе за угрозы стрельбы или совершения теракта.
Адвокаты Хеллер могут доказать, что их подопечная фактически не передавала угрозы таким образом, чтобы кто‑то другой мог их увидеть.
Летом этого года СМИ сообщили, что разговоры с чат‑ботами могут стать доказательством в судебных разбирательствах. Беседы с ИИ‑инструментами уже приводили к задержаниям и арестам в США. Однако не всегда использование переписки с ChatGPT в качестве доказательства способно убедить присяжных по делу.
Источник: habr.com