Исследователи MIT FutureTech и Университета Квинсленда опросили 272 эксперта в области ИИ. Рейтинг охватывает 24 категории рисков до 2030 года — 18 из них получили вероятность катастрофы не ниже 10%.
Вероятность ИИ-апокалипсиса оценивается в 10% при любом сценарии и может превысить 20% при отсутствии регулирования, согласно опросу 272 специалистов, проведенному исследователями лаборатории MIT FutureTech и Университета Квинсленда. Исследование опубликовал MIT Sloan. В работе участвовали 272 международных эксперта в области ИИ, оценивавших 24 категории рисков на горизонте 2025–2030 годов.
Авторы применили метод Дельфи — структурированный многораундовый опрос: каждый участник оценивал риски анонимно, затем получал сводку ответов коллег и мог скорректировать свою позицию. Этот подход исключает давление авторитетов и ведет к взвешенному консенсусу. Команда — Александр Саери, Джесс Грэм, Майкл Ноетел, Питер Слэттери и Нил Томпсон из MIT Sloan — намеренно подбирала экспертов с разными взглядами на риски ИИ.
Пять главных угроз
По степени ожидаемой серьезности эксперты выделили пятерку лидеров:
ИИ-системы с опасными возможностями — вероятность катастрофических последствий 12%;оружие, кибератаки и другие инструменты массового поражения — 12%;экологический ущерб — 12%;неравенство и безработица — 11%;концентрация власти и несправедливое распределение выгод от ИИ — 11%.
«Катастрофическим исходом» авторы считают событие с более чем миллионом погибших, убытками свыше 100 млрд долларов или сопоставимым ущербом для цивилизации. При базовом сценарии — без существенного изменения текущих тенденций — 18 из 24 рисковых категорий получили вероятность именно такого исхода не ниже 10%.
Источник: hi-tech.mail.ru