Исследователи из AI Futures Project, которые ранее выпустили сценарий AI 2027, представили новый документ под названием AI 2040. В прошлой работе авторы рассматривали два основных исхода гонки искусственного интеллекта. В одном случае человечество теряет контроль над сверхразумными системами. В другом власть над ними получает небольшая группа компаний или политиков. Теперь команда предлагает альтернативный вариант развития событий и подробно описывает, что должно произойти с 2029 по 2040 гг., чтобы избежать обоих сценариев.
План А
Сверхразум откладывают до 2040 года
Главная идея Плана А заключается в том, чтобы не допустить появления сверхразумного ИИ в ближайшие годы. Авторы предлагают растянуть этот процесс до 2040 г. За это время государства должны выработать правила безопасности, а ученые лучше понять принципы работы таких систем.
Согласно сценарию, в 2029 г. США и Китай договариваются остановить гонку за создание сверхразума. Стороны временно прекращают обучение новых передовых моделей и начинают создавать систему взаимного контроля. Авторы считают, что скрыть крупный проект будет сложно, поскольку современные дата-центры хорошо заметны, потребляют огромное количество энергии и зависят от поставок специализированных чипов.
В 2030 г. страны запускают международный консорциум. Его работа строится на четырех принципах. Первый предусматривает замедление развития ИИ, если появляются вопросы к безопасности. Второй требует сделать исследования максимально открытыми. Третий предполагает, что доступ к передовым технологиям должны получить десятки компаний из разных стран. Четвертый принцип позволяет приостановить создание новых ИИ-систем, если они начнут развиваться слишком быстро или покажут признаки опасного поведения.
Дата-центры строят за границей
Одно из самых необычных предложений касается размещения вычислительных мощностей. Авторы предлагают строить новые китайские дата-центры в Канаде, а американские в Монголии. Если договоренности будут нарушены, каждая сторона сможет быстро лишить соперника доступа к вычислительным ресурсам.
По замыслу исследователей, это должно удерживать страны от попыток в одностороннем порядке ускорить создание сверхразумного ИИ. Такой механизм они называют взаимно гарантированным уничтожением вычислительных мощностей.
Миллионы ИИ-агентов и новые доходы государств
В сценарии уже к 2032 г. постоянно работают около 60 млн ИИ-агентов. Они выполняют задачи в десятки раз быстрее человека и берут на себя значительную часть интеллектуального труда.
Чтобы никто не получил слишком большое преимущество, консорциум ограничивает скорость наращивания вычислительных мощностей. Право на строительство новых дата-центров и выпуск дополнительных чипов распределяется через аукционы. По расчетам авторов, такие механизмы приносят государствам десятки триллионов долларов дополнительных доходов.
Часть этих средств предлагается направлять гражданам. В документе говорится о регулярных выплатах населению за счет прибыли, которую создают автоматизация и искусственный интеллект.
ИИ достигает уровня лучших специалистов
Авторы считают, что к 2035 г. системы искусственного интеллекта смогут работать примерно на уровне лучших экспертов в большинстве профессий. В этот момент развитие технологий предлагают намеренно замедлить.
Следующие несколько лет должны уйти на исследования безопасности. Ученым предстоит понять, можно ли надежно контролировать сверхразумные системы и как убедиться, что они не начнут действовать вопреки интересам людей. Только после этого развитие ИИ снова ускоряют. По сценарию это происходит в 2040 г.
План Б
Вместо договора начинается борьба за лидерство
Авторы признают, что их вариант может так и не быть реализован. В качестве альтернативы они рассматривают более жесткий путь, при котором государства продолжают гонку за создание сверхразумного ИИ.
В этом случае власти делают ставку на скорость, секретность и концентрацию ресурсов в руках нескольких компаний. Международное сотрудничество отходит на второй план, а главным становится технологическое превосходство над конкурентами.
Риск борьбы и концентрации власти
По мнению исследователей, такой подход повышает вероятность кибератак, диверсий и политических конфликтов между крупнейшими державами. Одновременно растет риск того, что контроль над самыми мощными системами окажется в руках небольшой группы людей.
Авторы считают этот вариант самым опасным. По их оценке, он может привести либо к потере контроля над искусственным интеллектом, либо к беспрецедентной концентрации власти.
Что в итоге
Составители AI 2040 называют свой документ не прогнозом, а планом действий. Они попытались ответить на вопрос, что должны сделать правительства и технологические компании, чтобы не допустить появления неконтролируемого сверхразумного ИИ. В их версии будущего США и Китай ограничивают гонку технологий, вводят международный надзор за крупнейшими дата-центрами и замедляют развитие самых мощных систем до 2040 г. Авторы признают, что такой сценарий выглядит маловероятным, но считают его менее опасным, чем бесконтрольная гонка за создание сверхразума.
Ранее мы писали о том, что в России оценили вероятность восстания машин.
Источник: hi-tech.mail.ru