Мощность чипов для ИИ-агентов выросла в 4,6 раза за год

Основной прирост обеспечил переход на ускорители Blackwell: ко второму кварталу 2026 года на них и Blackwell Ultra приходилось около 73% производительности в задачах для агентов.

Расчетная производительность проданных к тому моменту ИИ-чипов в задачах для ИИ-агентов выросла в 4,6 раза со второго квартала 2025 года по второй квартал 2026 года. Пиковая вычислительная мощность тех же чипов при 8-битных вычислениях выросла в 2,6 раза, сообщает исследовательская организация Epoch AI.

Аналитики оценили, сколько чипов каждой модели было продано к концу каждого квартала, и умножили это число на расчетную производительность одного чипа. Для всех кварталов использовали один и тот же набор задач с длинным контекстом, сохраненным в кеше. При расчете учитывали обработку входных данных и генерацию ответов, а также характеристики памяти, обмен данными между чипами и вычисления с пониженной точностью. Различия в эффективности программного обеспечения в модель не вошли.

Основную часть прироста обеспечил переход с ускорителей Nvidia Hopper на Blackwell. Ко второму кварталу 2026 года на Blackwell и Blackwell Ultra приходилось около 73% суммарной производительности в задачах для агентов и 50% пиковой 8-битной мощности. За год производительность в этих задачах на единицу пиковой мощности выросла примерно на 77%. Авторы связывают такой разрыв, в частности, с возможностью объединять больше ускорителей для совместной работы, использовать вычисления с пониженной точностью и адаптировать архитектуру моделей к оборудованию.

Источник: hi-tech.mail.ru

0 0 голоса
Рейтинг новости
1
0
Подписаться
Уведомить о
0 комментариев