Anthropic предлагает разрешить властям блокировать выпуск модели, только если она грозит ущербом свыше $1 млрд (около 84 млрд рублей) либо гибелью или серьёзными травмами более чем 50 человек. Угроза должна быть связана с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой. Одного лишь абстрактного риска для вмешательства будет недостаточно.
Независимые эксперты, зарегистрированные в Министерстве торговли США, должны периодически проверять модели. Разработчик сможет оплачивать их работу, если это не повлияет на независимость оценки. Если эксперты обнаружат угрозу, они должны уведомить ведомство в течение 72 часов после завершения проверки. После этого Министерство торговли США сможет обратиться в федеральный суд и потребовать приостановить выпуск модели, признанной опасной.
ИИ получил свою квалификацию опасности
Представитель Anthropic заявил, что компания продвигает эти предложения среди федеральных властей и властей штатов с июня 2026 года. Он также назвал их разумными мерами, которые должен принять Конгресс.
Этот законопроект отражает предложения, изложенные в нашей системе принципов для передового ИИ, за продвижение которых среди федеральных властей и властей штатов мы выступаем с июня. Это разумные меры, которые, по нашему мнению, должен принять Конгресс.
— Представитель Anthropic
Проект предлагает частично заменить региональные правила едиными федеральными требованиями. Они касаются раскрытия рисков, независимых проверок и сообщений об инцидентах. Критики опасаются, что такой подход может закрепить регулирование на условиях самих технологических компаний.
Должны ли власти вмешиваться до того, как возникнет угроза ущерба в миллиард долларов или гибели и травм большого числа людей, и кто должен устанавливать этот порог?
НовостиAnthropicЖелезо и технологииискусственный интеллект
Источник: vgtimes.ru