29 сентября главы крупнейших ИИ-компаний подписали в Белом доме добровольное соглашение о самоконтроле. Законом оно не является. На вопрос, обязывает ли оно к чему-то, Дональд Трамп (Donald Trump) ответил: «Я считаю, что это моральный долг».
Документ подписали Трамп, Сундар Пичаи (Google), Дарио Амодеи (Anthropic), Марк Цукерберг (Meta), Грег Брокман (OpenAI), Илон Маск (xAI) и Дженсен Хуанг (Nvidia). Сэма Альтмана не было: в это время он выступал на DevDay в Сан-Франциско. Среди участников встречи были и другие: по данным AP, среди них Безос и Наделла, но на странице подписей, как отмечает CNN, их нет.
Четыре обязательства:
- «Надёжный внутренний контроль», в том числе по кибербезопасности, при обучении и запуске моделей;
- Внутренняя команда, которая следит, чтобы контроль и мониторинг работали;
- Независимый внешний оценщик;
- Независимый комитет совета директоров, который получает отчёты и следит за исправлениями.
Трамп назвал документ «почти конституцией». В самом тексте сказано, что со временем эти шаги, возможно, закрепят законами. Название в разных изданиях расходится («White House Accord on Superintelligence» у The Hill, «Super Intelligence» у CBS), поэтому проще писать «соглашение Белого дома о сверхинтеллекте».
В тот же день Трамп подписал указ: федеральные ведомства заменяют «ИИ» (AI) на «Super Intelligence» (SI), советнику по науке поручили дать официальное определение (см. сводку Белого дома). Контекст: 14 сентября Трамп написал в Truth Social, что разговоры о захвате мира ИИ — это «HOAX» (NBC News).
Дональд Трамп
Реакция: Берни Сандерс написал, что в итоге «Congress does not regulate AI. AI regulates Congress». Сенатор Уорнер призвал к обязательному тестированию и отчётам об инцидентах. Подробности в материале AP.
За неделю до пакта OpenAI остановила обучение самых мощных моделей и отменила GPT-6.1 Astra. Почему разработчики безопасности массово уходят из лабораторий, мы разбирали в лонгриде «Они играют нашими жизнями».
Как вы считаете, достаточно ли добровольного соглашения для контроля за разработкой сверхмощного ИИ или нужны обязательные законы?
НовостиЖелезо и технологииДональд Трампискусственный интеллект
Источник: vgtimes.ru