Глава Института исследований машинного интеллекта (MIRI) Нейт Соарес заявил, что вероятность гибели человечества по вине искусственного интеллекта в ближайшие десять лет превышает 50%.
По словам Соареса, достаточно развитый ИИ способен сформулировать цели, которые противоречат интересам человечества, выйти из‑под контроля, доработать сам себя и создать автоматизированную инфраструктуру, которая будет функционировать без участия людей. По его словам, в дальнейшем такой ИИ может перестроить планету в соответствии со своими собственными целями, сделав её непригодной для жизни людей.
Соарес настаивает на том, что правительствам следует остановить обучение универсальных систем искусственного интеллекта. По его мнению, усилия стоит сосредоточить на создании технологий для конкретных задач — например, для борьбы с раком или разработки безопасных беспилотных автомобилей.
Ранее Эван Хьюбингер, глава группы стресс‑тестирования ИИ в Anthropic, и «крёстный отец ИИ», учёный Джеффри Хинтон оценивали вероятность гибели всего человечества от рук ИИ в ближайшее десятилетие в около 10%.
«Вероятность в 10% кажется мне вполне обоснованной оценкой, хотя на самом деле никто не знает, как рассчитать её точно», — заявил Джеффри Хинтон в интервью BBC.
Он добавил, что очевидно одно: временной интервал, в течение которого может произойти подобная катастрофа, сократился: «Раньше я полагал, что речь идет о 30–50 годах, затем сократил этот срок до 10–20 лет. Теперь я думаю, что, возможно, останется лет 10, а то и меньше».
Источник: habr.com