Президент США Дональд Трамп объявил недавно о новом соглашении по безопасности передовых ИИ-систем. Его подписали руководители Google, Anthropic, Meta*, OpenAI, xAI и Nvidia.
Документ получил название Joint Commitment on Frontier Responsibilities и предусматривает добровольный контроль компаний за собственными ИИ-системами.
Соглашение не имеет обязательной юридической силы. Компании обязуются следить за возможностями и рисками своих моделей, создавать внутренние команды для контроля безопасности, привлекать независимых проверяющих и обеспечить надзор со стороны руководства компаний.
На встрече руководители компаний публично поддержали инициативу. Марк Цукерберг назвал ее важным первым шагом, а глава Nvidia Дженсен Хуанг заявил, что развитие технологий и безопасность «должны идти одновременно».
Глава OpenAI Грег Брокман подчеркнул потенциальную пользу ИИ для науки, медицины и бизнеса. Руководитель Google Сундар Пичаи отметил необходимость безопасного выпуска новых продуктов.
Глава xAI Илон Маск говорил о возможном росте благосостояния благодаря ИИ и роботам, добавив, что «характер работы людей будет меняться». Руководитель Anthropic Дарио Амодеи подчеркнул, что технология дает большие возможности, но несет «реальные риски», способы управления которыми еще обсуждаются.
*Meta признана в РФ экстремистской и запрещена
Источник: www.ferra.ru