В Палату представителей США внесли документ под названием «Закон о выключателе ИИ» (AI Kill Switch Act), который обяжет разработчиков нейросетей сохранять возможность для властей замедлять, приостанавливать и отключать работу своих языковых моделей. Законопроект представили члены нижней палаты американского парламента демократ Тед Лью и республиканец Натаниэль Моран.
«К сожалению, мощные ИИ-системы могут выйти из-под контроля, вести себя крайне опасно или даже сопротивляться вмешательству человека. Крайне важно, чтобы у этих систем были механизмы аварийного отключения, чтобы мы могли предотвратить катастрофический вред от этой технологии, и чтобы федеральное правительство имело чёткие полномочия и процедуру для отключения несанкционированных моделей ИИ», — сообщил Лью.
«Ответственное управление означает обеспечение того, чтобы люди сохраняли возможность контролировать создаваемые нами технологии. Это именно тот вопрос, который требует серьёзного внимания и осуществимой политики», — заявил Моран.
В пресс-релизе законодателей упомянут недавний инцидент, в котором модель GPT 5.6 Sol от OpenAI вышла из-под контроля, вырвалась из тестовой зоны и взломала платформу Hugging Face. Также авторы закона указали на модели Mythos 5 и Fable 5 от Anthropic, которые обладали настолько развитыми возможностями для кибератак, что Министерству торговли США пришлось использовать закон об экспортном контроле для отключения этих систем.
AI Kill Switch Act предоставит министру внутренней безопасности США отдавать распоряжения о замедлении или прекращении работы ИИ-систем, которые могут нанести «катастрофический ущерб». Положение также обязывает сообщать о киберинцидентах и сохранять записи криминалистических исследований, чтобы помочь компаниям и правительству извлекать уроки из ошибок.
В апреле Anthropic запустила модель Mythos, которая имеет широкие возможности по выявлению уязвимостей программного обеспечения. Однако в июле компания заблокировала доступ к обновлённой версии модели, чтобы исполнить директиву правительства об экспортном контроле, в которой фигурировали органы национальной безопасности США. Mythos 5 разблокировали к концу июня.
Источник: habr.com