Совсем недавно, 10 июня, компания Anthropic официально выпустила в свет большую языковую модель Claude Fable 5, которая фактически является публичной версией модели из семейства Mythos. Представители ИИ-гиганта заявили, что они существенно урезали возможности общедоступной LLM в области кибербезопасности, но при этом модель всё равно считается одной из лучших в области программирования, аналитики и работы с агентскими задачами с длинным горизонтом планирования. Правда, воспользоваться всеми этими фишками пользователи больше не могут — вчера, 12 июня, компания заявила о полном отключении моделей Claude Fable 5 и Mythos 5. Telegram-канал создателя Трешбокса про технологии
Примечательно, что это вынужденная мера — представители Anthropic в официальном блоге заявили о получении директивы от правительства США, в которой требуется ограничить доступ к данным большим языковым моделям для пользователей, которые не являются гражданами США. Данное требование объясняется экспортным контролем и вопросами национальной безопасности, хотя вдаваться в детали никто не стал. Но, вероятно, причина беспокойства в том, что пользователям удалось найти специальные техники для обхода ограничений моделей, что открывало им полный потенциал LLM семейства Mythos.
И, теоретически, это действительно может иметь серьёзные последствия. Ранее, когда Mythos только анонсировали в виде предварительной версии, правительства некоторых стран даже созывали срочные собрания со специалистами по кибербезопасности, чтобы обсудить возможный урон по финансовому сектору (банкам, фондам, бирже). Видимо, в правительстве США решили не ждать, пока кто-то сможет найти серьёзную брешь в безопасности, просто выдав требование закрыть модель от посторонних глаз.
Правда, хотя правительство потребовало от Anthropic закрыть доступ лишь для не-граждан США, компания отключила модели для всех пользователей. Причина в том, что у компании нет протоколов, которые могут достоверно определить, является ли пользователь гражданином конкретной страны — во время регистрации и покупки платных подписок паспорт, естественно, никто не требует, таких систем нет (как минимум пока что), а определять гражданство по IP-адресу, конечно, глупо. Более того, что весьма забавно, компания отключила эти модели даже для своих сотрудников — потому что не все из них являются гражданами США. Звучит немного нелепо, но и сама ситуация из ряда вон выходящая.
Источник: trashbox.ru