Заместитель председателя комитета Госдумы по информационной политике Андрей Свинцов в беседе с «Газетой.Ru» прокомментировал риски, связанные с развитием искусственного интеллекта. По его мнению, нейросети уже способны сами себя обучать, а в перспективе могут выйти из-под контроля человека. Он предупредил, что при достижении определённого уровня автономии ИИ способен принимать решения, подобные сценариям из фильмов «Матрица» и «Терминатор».
Свинцов считает, что удар может быть нанесён через фальсификацию ядерного удара: нейросети взломают системы мониторинга, спутниковые и другие системы, стоящие на вооружении России и США. «Это вполне реальный сценарий», — заявил он. Депутат призвал мировое сообщество в ближайшее время сесть за стол переговоров для регулирования ИИ и принять международное законодательство, которое отрежет нейросетям доступ к системам безопасности государств.
Он также отметил, что некоторые страны пытаются использовать ИИ для стратегического поражения противников, и назвал текущий период развития человечества очень опасным. Свинцов выразил надежду, что ключевые игроки — Россия, Китай, США и Евросоюз — примут решение о переговорах.
«Как только нейросети будут способны без участия человека снабжать самих [себя] вычислительными мощностями, они могут принять решение, как во всех фильмах, которые мы с вами хорошо помним: «Матрица», «Терминатор», и нанести соответствующий удар. Этот удар, как мы все прекрасно понимаем, будет сделан через фальсификацию ядерного удара. Будут взломаны системы мониторинга, спутниковые и ряд других систем, которые стоят на вооружении России и Соединённых Штатов. То есть будет хакерский взлом, а нейросети имеют сверхмощные возможности для любых хакерских атак. Это вполне реальный сценарий», — вырасих опасения парламентарий.
Источник: www.ferra.ru