Компания Anthropic заявила о временном отключении своих самых новых моделей искусственного интеллекта (ИИ) Fable 5 и Mythos 5 для всех пользователей из-за требований властей США. Решение связано с экспортными ограничениями и опасениями по поводу возможного обхода защитных механизмов моделей.
Американское правительство считает, что у системы Fable 5 может существовать способ обхода встроенных ограничений, который позволит использовать ее для поиска уязвимостей в программном обеспечении. Anthropic не согласилась с такой оценкой и заявила, что получила только сведения о возможном узком сценарии обхода защиты.
Модели были представлены как новый уровень возможностей ИИ с дополнительными ограничениями для опасных сфер, включая кибербезопасность. Компания уточнила, что другие ее модели продолжат работать без изменений.
Источник: www.ferra.ru