В своей новой книге «Ошибка Тьюринга: освобождение от ига неразумных машин» Деннинг утверждает, что классические идеи Алана Тьюринга 1950‑х годов завели исследования искусственного интеллекта в концептуальный тупик почти на три четверти века.
Тьюринг в своих работах исходил из двух ключевых предположений. Первое: интеллект можно отделить от физического тела и «переписать» в виде программного кода. Второе: машину можно считать разумной, если она достаточно хорошо имитирует человека в беседе — именно эта идея позднее легла в основу теста Тьюринга. По мнению Деннинга, согласие с этими установками породило «бардак в ИИ», с которым мы имеем дело сегодня, в том числе, огромные ожидания от искусственного общего интеллекта (AGI) и одновременно этим — растущие риски.
В основе аргументации ученого лежит концепция неявного знания — огромного массива человеческого понимания, который невозможно легко выразить словами или представить в форме, доступной для обработки компьютерами. Деннинг выделяет пять основных категорий такого знания: здравый смысл, повседневные взаимодействия с людьми и окружением, эмоции и восприятие, практические навыки выполнения задач, а также социальное и историческое знание, заложенное в культуре.
Попытки собрать здравый смысл в базы данных предпринимались десятилетиями. Один из самых известных примеров — проект Cyc Дугласа Лената, начатый в 1980‑х. За сорок лет в нем накопилось около 25 миллионов «фактов». Но даже этот колоссальный ресурс не сделал экспертные системы по‑настоящему «умными». По словам Деннинга, Cyc подтвердил: значительная часть экспертности принципиально не раскладывается на отдельные высказывания.
С практическими навыками ситуация оказалась еще сложнее. «Мы можем описать желаемый результат (“знать что”), но не умеем кодировать воплощенное в теле знание о том, как именно действовать (“знать как”)», — пишет Деннинг. Виртуоз‑скрипач может играть гениально, но не в состоянии передать ученику, как добиться того же на уровне ощущений. Даже если робот идеально скопирует движения, у него нет телесного опыта переживания музыки и реакции зала.
Деннинг связывает эти трудности с «проблемой представления»: компьютеры работают только с тем, что удалось закодировать в определенной форме. Неявное знание в такую форму плохо укладывается. «За каждым словом скрывается глубокий колодец неявного знания, которое придает ему смысл. Слова — это лишь символы, а не сами значения», — подчеркивает он. Отсюда и проистекает ограниченность больших языковых моделей вроде ChatGPT, Claude или Gemini: они манипулируют, порой достаточно умело, словами, но не «знают», о чем говорят.
Дополнительным барьером становится контекст и культура. Интеллект, по Деннингу, неотделим от живого фона: норм, ценностей, истории, власти, заботы. Именно этот фон позволяет улавливать сарказм, уместность шутки или интонации. Машины же опираются на статистику текстов, а не на прожитый опыт. Как бы ни росли и совершенствовались нейросети, это не сделает их мысль неотличимой от человеческой.
Главный вывод ученого парадоксален: люди и ИИ, вероятно, будут развивать разные виды «неявного знания», которые останутся взаимно непрозрачными. «Машины не могут прочитать наше неявное знание, а мы — их. Мы оказываемся по разные стороны непреодолимой границы», — пишет он. Это, по его мнению, порождает серьезные вопросы безопасности: если системы не понимают непроизнесенный контекст наших намерений, то и надежно «выравнять» их с человеческими целями невозможно.
Деннинг не предсказывает захват мира суперразумными ИИ, но видит более приземленную угрозу: сложные автоматизированные сети, которые действуют по своим, чуждым человеку логикам и, будучи при этом «ограниченно разумными», способны нанести большой вред. Ответ, по мнению специалиста, заключается не в том, чтобы «думать как машина», а в том, чтобы четко различать человеческое и машинное, отказываться подчиняться «неразумным машинам» и заново формулировать, что именно делает нас людьми, и почему это важно сохранить.
Ранее ученые выяснили, что ИИ гораздо более восприимчив к манипуляциям, чем люди.
Источник: hi-tech.mail.ru