Стоит ли готовиться к самым опасным последствиям развития ИИ?
Исследователи из AI Futures Project, которые ранее выпустили сценарий AI 2027, представили новый документ под названием AI 2040. В прошлой работе авторы рассматривали два основных исхода гонки искусственного интеллекта. В одном случае человечество теряет контроль над сверхразумными системами. В другом власть над ними получает небольшая группа компаний или политиков. Теперь команда предлагает альтернативный вариант развития событий и подробно описывает, что должно произойти с 2029 по 2040 гг., чтобы избежать обоих сценариев.
План АСверхразум откладывают до 2040 года
Главная идея Плана А заключается в том, чтобы не допустить появления сверхразумного ИИ в ближайшие годы. Авторы предлагают растянуть этот процесс до 2040 г. За это время государства должны выработать правила безопасности, а ученые лучше понять принципы работы таких систем.
Согласно сценарию, в 2029 г. США и Китай договариваются остановить гонку за создание сверхразума. Стороны временно прекращают обучение новых передовых моделей и начинают создавать систему взаимного контроля. Авторы считают, что скрыть крупный проект будет сложно, поскольку современные дата-центры хорошо заметны, потребляют огромное количество энергии и зависят от поставок специализированных чипов.
В 2030 г. страны запускают международный консорциум. Его работа строится на четырех принципах. Первый предусматривает замедление развития ИИ, если появляются вопросы к безопасности. Второй требует сделать исследования максимально открытыми. Третий предполагает, что доступ к передовым технологиям должны получить десятки компаний из разных стран. Четвертый принцип позволяет приостановить создание новых ИИ-систем, если они начнут развиваться слишком быстро или покажут признаки опасного поведения.
Источник: hi-tech.mail.ru