Джеффри Хинтон, лауреат премии Тьюринга и один из пионеров глубокого обучения, предупредил о неготовности человечества к последствиям стремительного развития ИИ. В ходе публичной дискуссии с сенатором Берни Сандерсом ученый заявил, что риски варьируются от экономической катастрофы до неконтролируемого распространения автономного оружия, и существующие социальные институты не справятся с этими вызовами без радикальных реформ.
Хинтон подчеркнул, что повсеместное внедрение ИИ неизбежно повысит производительность труда, но выгоду от этого получат преимущественно владельцы корпораций, в то время как наемные работники столкнутся с сокращениями. По его мнению, рынок не сможет самостоятельно сбалансировать ситуацию: правительствам придется вмешиваться в экономику, возможно, вводя безусловный базовый доход, чтобы предотвратить резкий рост неравенства.
Особую тревогу вызывает военное применение технологий. Он отметил, что регулировать боевые нейросети гораздо сложнее, чем ядерное оружие. Если для создания бомбы требуются гигантские заводы и редкие изотопы, то автономное оружие управляется программным кодом. Его можно легко скопировать, украсть и перенести на обычном носителе, что делает контроль над нераспространением практически невозможным.
Ученый также повторил свои опасения относительно экзистенциальных рисков, связанных с потерей контроля. Хинтон считает, что по мере того как ИИ станет умнее человека, он может научиться манипулировать людьми для достижения целей, которые не совпадают с человеческими ценностями. Главная проблема, по его словам, заключается в том, что мы вступаем в эту эру, не имея четкого плана защиты.
Это выступление продолжает серию предупреждений, которые Хинтон начал озвучивать после ухода из Google в 2023 году. Он настаивает, что скорость прогресса за последние несколько лет оказалась намного выше прогнозов экспертов, и у общества просто нет времени на медленную бюрократическую адаптацию законодательства.
P.S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.
Источник: habr.com