После «повторного выпуска» модели Mythos, она же Fable 5 от Anthropic для пользователей платных подписок, множество пользователей столкнулись с проблемой, когда модель начинает подозревать пользователя в попытке jailbreak-а модели — обхода системных ограничений. В том числе, модель агрессивно реагирует на почти любой промпт-инструкцию к проекту или к самому профилю пользователя, растягивая свои реакции на целые абзацы и тратя токены впустую.
Впервые я столкнулся с этим «багом» несколько дней назад, когда спустя несколько сообщений в новом чате, Sonnet 5 стал неожиданно реагировать на Project instructuions, которая на момент использования выглядела так
Читать далее
Источник: habr.com