Президент США Дональд Трамп заявил, что больше не рассматривает Anthropic как угрозу национальной безопасности.
Еще неделю назад, по его словам, такая оценка могла быть возможной. Заявление прозвучало после того, как американские власти потребовали ограничить доступ иностранных граждан к моделям Fable 5 и Mythos 5, а компания временно отключила их для всех пользователей.
Ранее IT-World писал, что США потребовали закрыть доступ к Fable 5 и Mythos 5 для любого иностранного гражданина, независимо от того, находится он за пределами США или внутри страны. Под это правило попадали и иностранные сотрудники самой Anthropic. Из-за такой формулировки компания решила не разделять пользователей в срочном порядке и отключила модели для всех клиентов.
Теперь конфликт, похоже, переходит из режима жесткого запрета в режим переговоров. По данным Reuters, технические специалисты Anthropic должны были встретиться с представителями администрации Трампа для обсуждения доступа иностранных пользователей к Fable 5 и Mythos 5. В интервью Axios Трамп сказал, что глава Anthropic Дарио Амодеи отреагировал на директиву «быстро» и «ответственно». При этом президент не исключил применения чрезвычайных полномочий по Defense Production Act, хотя добавил, что пока не уверен в необходимости такого шага.
Новый поворот в истории связан не только с тем, что Белый дом смягчил тон. На другую сторону конфликта обратили внимание отраслевые эксперты и аналитики. Anthropic годами была одной из самых заметных компаний в дискуссии о рисках продвинутого ИИ, необходимости жестких ограничений и оценки опасных возможностей моделей. Теперь критики компании утверждают, что именно эта риторика могла помочь властям обосновать резкое вмешательство.
Иными словами, Anthropic столкнулась с обратной стороной собственной логики. Компания настаивала, что frontier-модели требуют особого контроля, потому что могут усиливать риски в кибербезопасности, биологии и других чувствительных областях. Но когда государство применило к ее моделям механизм экспортного контроля, Anthropic заявила, что повод слишком узкий, технические детали не раскрыты, а отключение коммерческой модели из-за потенциального jailbreak не выглядит оправданным.
В заявлении Anthropic говорится, что претензии властей были связаны с возможным способом обхода защиты Fable 5. По версии компании, речь шла не об универсальном jailbreak, а об узком сценарии, который позволял находить небольшое число уже известных и относительно простых уязвимостей. Anthropic также утверждала, что аналогичные задачи способны выполнять и другие публично доступные модели.
При запуске Fable 5 и Mythos 5 сама Anthropic описывала их как модели нового уровня. Fable 5 была заявлена как широкодоступная модель с усиленными ограничителями, а Mythos 5, построенная на той же базе, предназначалась для ограниченного круга киберзащитников и инфраструктурных провайдеров. Компания отдельно подчеркивала, что Mythos 5 обладает самыми сильными кибервозможностями среди ее моделей и должна распространяться через доверенный доступ.
Однако часть киберсообщества выступила против запрета не потому, что считает такие модели безопасными. Наоборот, в открытом письме эксперты признали, что Mythos-класс хорошо справляется с поиском уязвимостей и подготовкой эксплойтов. Но, по их мнению, эти возможности не уникальны, а резкое изъятие лучших инструментов у защитников может помочь противникам США больше, чем навредить им. Как пишет AP, письмо подписали более 100 экспертов и руководителей из сферы кибербезопасности, включая представителей Adobe и Nvidia.
Остается также юридическая неопределенность. Сама директива США публично не раскрыта, как и ее точное правовое основание. По оценке издания, вероятной базой мог стать Export Control Reform Act 2018, но широта ограничения выглядит беспрецедентной, потому что доступ к моделям оказался закрыт для любого иностранного гражданина, включая людей, находящихся на территории США.
Главный вывод из продолжения этой истории в том, что доступ к передовым ИИ-моделям может зависеть не только от подписки, страны подключения или политики самой компании. Он становится вопросом национальной безопасности, экспортного контроля и политических переговоров. Сборная солянка или единый ИТ-ландшафт. Специфика цифровизации транспортно-логистической отрасли в России Наслаждаемся летом с Технопарком Стоит ли использовать ИИ в тестировании? Подводные камни и рекомендации для тестировщиков
Для рынка это означает, что, если критерии опасности модели остаются закрытыми, а решения принимаются через непубличные директивы, поставщики ИИ получают новый риск. Сегодня ограничение коснулось Anthropic, завтра аналогичный подход может быть применен к другим разработчикам frontier-моделей. При этом пользователи и корпоративные заказчики оказываются в ситуации, когда технологический доступ может измениться не из-за цены, мощности или условий сервиса, а из-за паспорта, юрисдикции и оценки угрозы со стороны государства.
Источник: www.it-world.ru