Теренс Тао, которого многие называют математическим гением, утверждает, что искусственный интеллект всё ещё не обладает тем, что он называет «математическим чутьем».
По словам Тао, даже когда генеративный ИИ выдаёт ошибочные доказательства, на первый взгляд они часто выглядят идеальными. Однако Тао отмечает, что «ошибки часто бывают очень незаметными, а когда вы их замечаете, они кажутся действительно глупыми. Ни один человек не допустил бы такой ошибки».
По его мнению, чего не хватает, так это того, что он называет «метафорическим математическим чутьём» — человеческой интуиции, которая предупреждает вас, когда что-то не сходится. Он отмечает, что «неясно, как в конечном счёте заставить ИИ это воспроизвести».
По словам Тао, такое интуитивное чувство до сих пор не может воспроизвести ИИ, поэтому человеческое суждение по-прежнему играет решающую роль в математике. Генеративные модели, в частности, как правило, застревают, если выбирают неверный подход. Тао отмечает, что «сейчас ИИ действительно испытывает трудности с пониманием того, когда он свернул не туда». Это отличает его от гибридных систем ИИ, которые сочетают нейронные сети с символическим мышлением.
AlphaZero использует поиск по дереву Монте-Карло (MCTS) в качестве «символической структуры» для выбора ходов во время игры и обучения. Этот алгоритм поиска исследует возможные игровые пути как символические состояния. Тем не менее, AlphaZero по сути является системой глубокого обучения с подкреплением, основанной на нейронных сетях, которая обучается в процессе самостоятельной игры и накапливает «знания» в миллионах параметров.
Некоторые считают, что сочетание сильных сторон больших языковых моделей с символическим мышлением может привести к значительным достижениям в области ИИ, поскольку большие языковые модели — даже те, которые обладают некоторыми способностями к мышлению — могут зайти в тупик.
Ранее Тао охарактеризовал модель рассуждений OpenAI o1 как «посредственную, но не полностью некомпетентную», это помощник исследователя, способный выполнять рутинные задачи, но всё же не обладающий креативностью и гибкостью. Он также участвует в разработке эталона FrontierMath, который ставит перед системами ИИ особенно сложные математические задачи.
Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News.
Источник
Источник: habr.com