Глава Amazon Web Services Энди Джасси, как сообщается, обсуждал с представителями администрации США возможные риски передовых моделей искусственного интеллекта компании Anthropic. Это произошло незадолго до того, как разработчик ограничил доступ к новым системам Fable 5 и Mythos 5.
Anthropic ранее заявляла, что модель Mythos могла иметь повышенные возможности в сфере поиска уязвимостей, поэтому ее массовый запуск был отложен. Позже компания представила Fable с дополнительными защитными механизмами для кибербезопасности.
После запроса американских властей Anthropic отключила доступ к обеим моделям по всему миру. Причиной стал возможный способ обхода защиты, который мог позволить применять ИИ для анализа программных слабых мест.
Amazon не подтвердил детали обсуждений с правительством, но отметил, что крупные поставщики облачных услуг регулярно участвуют в разговорах о безопасности технологий. Ряд экспертов раскритиковал ограничения, поскольку они затронули не только потенциальных противников США, но и партнерские страны.
Источник: www.ferra.ru