Глава Anthropic Дарио Амодеи считает, что развитие самых мощных ИИ-систем «стоит замедлить». Однако главным препятствием он называет Китай. Мол, если США и другие страны снизят темпы, а Китай этого не сделает, у него может появиться «военное и экономическое преимущество».
Амодеи предложил план из трёх шагов.
— Первый уже поддержала Anthropic. Независимые эксперты, мол, должны получить доступ к компании на уровне сотрудников, чтобы проверять меры безопасности и сообщать о происшествиях.
— Второй предполагает создание общих правил безопасности среди «ведущих ИИ-компаний демократических стран».
— Третий — сотрудничество «демократических и авторитарных государств».
Идею поддержали глава Google DeepMind Демис Хассабис и Илон Маск. Глава OpenAI Сэм Альтман также согласился с необходимостью замедлить развитие передовых систем.
Источник: www.ferra.ru