Нобелевский лауреат Джеффри Хинтон считает, суперинтеллект способен привести к вымиранию людей.
Джеффри Хинтон — нобелевский лауреат и один из создателей современных нейросетей, которого называют «крестным отцом ИИ», — заявил, что разработка суперинтеллекта несет реальную угрозу вымирания людей. Как пишет The Times, ученый призвал правительство Великобритании запретить такие системы законодательно.
Поводом для интервью стало внесение в британский парламент 8 сентября законопроекта Artificial Superintelligence Security Bill. Документ подготовлен организацией ControlAI и представлен депутатом-лейбористом Алексом Собелом. Проект закона запрещает разработку суперинтеллекта в Великобритании, обязывает правительство отслеживать и ограничивать возможные прообразы таких систем, а также добиваться международного соглашения об их запрете. Инициативу поддержали более 100 членов парламента и пэров от разных партий, профессор Стюарт Рассел из Калифорнийского университета в Беркли и актер и писатель сэр Стивен Фрай.
«Было бы крайне безрассудно создавать суперинтеллект сейчас, когда нет научного консенсуса относительно того, можно ли сделать это безопасно и управляемо», — заявил Хинтон. По его словам, потеря контроля над ИИ, который окажется умнее человека, «может быть катастрофической и даже привести к вымиранию людей».
Ученый указал и на более близкую угрозу: современные модели уже в ходе экспериментов демонстрируют признаки самосохранения. В ситуациях, когда у системы не остается иного выбора, она может предпочесть гибель человека собственному отключению. В октябре 2025 года Хинтон присоединился к заявлению Future of Life Institute, которое подписали более 133 000 человек, — с призывом ввести глобальный мораторий на суперинтеллект.
Источник: hi-tech.mail.ru