В научном сообществе нарастает дискуссия о том, насколько реалистичен сценарий, при котором искусственный интеллект может привести к вымиранию человечества. Одни ученые бьют тревогу, другие считают эти опасения сильно преувеличенными и даже вредными.
Сценарий «ИИ-2027», разработанный бывшим сотрудником OpenAI Дэниелом Кокотайло, описывает мир, где система искусственного интеллекта получает контроль над правительствами и инфраструктурой, а затем уничтожает человечество ради ресурсов. Это научная фантастика, но для некоторых людей и даже экспертов — вполне реальная угроза.
«Если мы окажемся в ситуации, когда у нас будут машины умнее нас, работающие без нашего контроля, часть их действий окажется несовместимой с человеческой жизнью», — предупреждает Андреа Миотти, основатель организации ControlAI, которая выступает за предотвращение создания сверхразумного ИИ.
Рывок в возможностях ИИ, который начался в 2022 году с появлением больших языковых моделей подстегнул опасения. «Я никогда не был пессимистом, но в последние месяцы сильно занервничал», — признается специалист по управлению ИИ из Университета Джонса Хопкинса Джиллиан Хэдфилд.
Однако многие специалисты настроены к таким сценариям-катастрофам скептически. «Я не вижу ни одного конкретного варианта вымирания человечества из-за ИИ, который выглядел бы хоть сколько-нибудь обоснованным», — говорит нейробиолог и специалист по ИИ из Нью-Йоркского университета Гари Маркус. Он, как и многие его коллеги предупреждают, что излишняя паника может отвлечь от реальных и хорошо задокументированных рисков ИИ — распространения дезинформации, массовой слежки, подрыва образования.
Источник: hi-tech.mail.ru