Каждый запрос, введенный в большую языковую модель (LLM), такую как ChatGPT, требует энергии и приводит к выбросам CO2. Однако объем выбросов зависит от модели, темы запроса и пользователя. Новое исследование, вышедшее на страницах Frontiers in Communication, сравнило экологический вред 14 нейросетей в разных режимах работы.
Результаты довольно предсказуемы: сложные ответы вызывают больше выбросов, чем простые, а модели, дающие более точные ответы, производят больше CO2. Тем не менее, получены некоторые данные, которые, по мнению авторов, могут помочь более сознательной эксплуатации чат-ботов.
Независимо от того, какие вопросы мы задаем ИИ, модель всегда предоставит ответ. Для генерации этой информации — независимо от ее правильности — она использует токены. Токены — это слова или части слов, преобразованные в последовательность чисел, которую может обработать LLM.
Это преобразование, как и любые другие вычислительные процессы, приводит к выбросам CO2. Ученые измерили и сравнили выбросы CO2 разных уже обученных LLM, используя стандартизированный набор вопросов.
«Влияние на окружающую среду при использовании обученных LLM сильно зависит от их подхода к рассуждениям: явные процессы рассуждения заметно увеличивают энергопотребление и выбросы углекислого газа. Мы обнаружили, что модели с функцией рассуждений производят до 50 раз больше CO2, чем модели, дающие краткие ответы», — пояснил Максимилиан Даунер из Мюнхенской высшей школы прикладных наук.
Наибольшие выбросы дает рассуждающий ИИ
Исследователи протестировали 14 LLM с параметрами от 7 до 72 миллиардов на 1000 стандартных вопросов из разных областей. Параметры определяют, как LLM обучаются и обрабатывают информацию.
В среднем модели с рассуждениями создают 543,5 «мыслительных» токенов на вопрос, тогда как для кратких ответов хватает всего 37,7 токенов. Мыслительные токены — это дополнительные токены, которые генерируются в процессе подготовки ответа. Большее количество токенов всегда означает больше выбросов CO2, но не обязательно гарантирует правильность ответа, поскольку избыточные детали не всегда критичны для точности.
Самой «умной» оказалась модель Cogito с 70 миллиардами параметров и функцией рассуждений, достигшая 84,9% точности. Она производит в три раза больше углекислого газа, чем модели аналогичного размера, дающие краткие ответы.
«Сейчас мы видим явный компромисс между точностью и экологичностью в технологиях LLM, — констатировал Даунер. — Ни одна из моделей, чьи выбросы не превышали 500 граммов CO2-эквивалента, не показала точности выше 80% на 1000 вопросов».
CO2-эквивалент — это единица измерения воздействия парниковых газов на климат.
Тема запроса также сильно влияет уровень выбросов. Вопросы, требующие длительных рассуждений, например, по абстрактной алгебре или философии, дают в шесть раз выше выбросов, чем более простые темы вроде школьной истории.
Осознанное использование
Исследователи надеются, что их работа поможет людям принимать более осознанные решения об использовании ИИ. «Пользователи могут значительно сократить выбросы, запрашивая у ИИ краткие ответы или ограничивая использование мощных моделей задачами, которые действительно требуют таких ресурсов», — подчеркнул Даунер.
Выбор модели может существенно повлиять на объем выбросов. Например, ответы модели DeepSeek R1 (70 млрд параметров) на 600 000 вопросов производят столько же углекислоты, сколько перелет туда и обратно из Лондона в Нью-Йорк. В то же время Qwen 2.5 (72 млрд параметров) может ответить более чем на 1,9 миллиона вопросов (в 3+ раза больше) с аналогичной точностью при тех же выбросах.
Авторы предупредили, что на результаты могло повлиять оборудование, использованное в исследовании, региональные различия в энергосетях, а также сами исследуемые модели. Эти факторы могут ограничивать обобщаемость выводов.
«Если бы пользователи знали точную стоимость выбросов CO2 от своих запросов к ИИ — например, для создания аватарки в виде фигурки супергероя — они могли бы более избирательно и осознанно подходить к использованию этих технологий», — заключил Даунер.
Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News.
Источник
Источник: habr.com