Компания Anthropic представила американским законодателям проект закона о регулировании безопасности передовых систем искусственного интеллекта. Об этом сообщает Politico со ссылкой на трех человек, знакомых с инициативой.
Согласно документу, власти смогут добиваться запрета на выпуск или использование модели, если она создает непосредственную предсказуемую угрозу, способную привести к ущербу свыше 1 млрд долларов или гибели либо тяжелым травмам более 50 человек. Риски должны быть связаны с созданием биологического оружия, обходом защитных механизмов разработчика или кибератакой.
Разработчики будут обязаны тестировать модели, раскрывать результаты проверок и проходить независимую оценку. Эксперты, зарегистрированные в Министерстве торговли США, должны сообщать ведомству об обнаружении соответствующей непосредственной угрозы в течение 72 часов после завершения проверки.
Министерство торговли сможет обратиться к федеральному судье с просьбой приостановить работу модели. Другие государственные органы, согласно проекту, не получат таких полномочий.
Источник: www.ferra.ru