Революционное открытие позволит в 100 раз сократить энергопотребление ИИ

Революционное открытие позволит в 100 раз сократить энергопотребление ИИ

По оценке Международного энергетического агентства, в 2024 году ИИ-системы и дата-центры в США потребили около 415 тераватт-часов электроэнергии, то есть более 10% всей генерации страны. К 2030 году этот спрос может удвоиться. На этом фоне особенно важны технологии, которые позволят сделать ИИ не только умнее, но и экономичнее.

Именно такой подход предложили специалисты инженерной школы под руководством Маттиаса Шойца. Они создали экспериментальную систему, которая может снизить энергопотребление ИИ почти в 100 раз и при этом точнее решать практические задачи.

Вместо привычных больших языковых моделей (LLM), таких как ChatGPT, ученые сосредоточились на системах для роботов — так называемых visual-language-action models, или VLA. Такие модели одновременно воспринимают изображение с камеры, текстовые инструкции и должны превращать все это в действие: например, заставить робота взять предмет, переместить его или собрать конструкцию.

Проблема в том, что обычные VLA, как и большие языковые модели, в основном полагаются на статистические закономерности и обучение на огромных массивах данных. Это делает их прожорливыми в энергетическом смысле и при этом не всегда надежными. Только если LLM способна «выдумать» судебные прецеденты, нагаллюцинировать несуществующие научные статьи ради ссылок на них или нарисовать человека с лишними пальцами, то VLA может перепутать тень с краем кубика и в результате робот неправильно его поставит.

Чтобы исправить этот недостаток, ученые использовали гибридный подход — так называемый нейро-символический ИИ. Он сочетает нейросети с символическим рассуждением, то есть с набором правил и абстрактных понятий вроде формы, устойчивости и последовательности действий. По сути, система учится не только распознавать паттерны, но и «думать шагами».

«Как и LLM, VLA часто опираются на статистические результаты из больших обучающих наборов, а это может приводить к ошибкам, — объясняет Шойц. — Нейро-символическая система может применять правила, которые ограничивают объем проб и ошибок и гораздо быстрее приводят к решению».

В тестах на классической задаче «Ханойская башня», требующей точного планирования, новая система показала 95% успеха против 34% у стандартных моделей. На более сложной версии задачи, с которой она раньше не сталкивалась, гибридная модель справилась в 78% случаев, тогда как обычные провалили все попытки. Обучение заняло всего 34 минуты вместо полутора суток, а энергозатраты на обучение составили лишь 1% от традиционного уровня. Во время работы система потребляла около 5% энергии по сравнению с обычными моделями.

По мнению авторов, будущее ИИ, особенно в робототехнике, может быть не за бесконечным наращиванием вычислений, а за более «разумными» архитектурами, которые умеют сочетать обучение с логикой. Этот подход делает системы искусственного интеллекта не только дешевле и устойчивее, но и ближе к тому, как решает задачи человек.

Ранее эксперты объяснили, как создать ИИ-ученого.

Источник: hi-tech.mail.ru

0 0 голоса
Рейтинг новости
1
0
Подписаться
Уведомить о
0 комментариев
Межтекстовые Отзывы
Посмотреть все комментарии