ИИ Anthropic отправил ложное сообщение об убийстве в полицию Филадельфии
Модель искусственного интеллекта (ИИ) Claude от Anthropic отправила на сайт полиции Филадельфии ложное сообщение о возможной информации по нераскрытому убийству. Обращение поступило 18 июля, но система распознала его как спам, поэтому оно не попало в центр обработки криминальных сообщений. Anthropic связала инцидент с автоматизированным тестированием. Полиция заявила, что компания сообщила о случившемся лишь спустя два