Высокая стоимость ускорителей NVIDIA уже давно стала поводом для споров в индустрии ИИ. Однако аналитики Morgan Stanley считают, что компания не зря просит такие деньги за Blackwell и будущие Rubin-чипы. По их данным, решения NVIDIA настолько эффективны по производительности на ватт, что конкуренты с собственными ASIC-чипами пока просто не успевают за темпом рынка.
Согласно отчёту банка, строительство дата-центра мощностью один гигаватт на базе NVIDIA Blackwell обходится примерно вдвое дороже, чем аналогичный проект на TPU от Google или Trainium от Amazon. Но Morgan Stanley утверждает, что более высокая цена компенсируется вычислительной эффективностью. По оценкам аналитиков, производительность на ватт у чипов NVIDIA может быть выше в 2–8 раз по сравнению с кастомными ИИ-ускорителями конкурентов.
Особенно выделяют будущие чипы Vera Rubin. В тестах TFLOPS на ватт версия Vera Rubin FP4 получила показатель 19,5 — это лучший результат среди всех решений в отчёте. Для сравнения, Blackwell GB300 FP8 набирает 6,0, Hopper H100 FP8 — 3,1, а TPUv7 от Google показывает 4,3. Чип Trainium 3 от Amazon и вовсе остановился на уровне 2,5.
На практике это означает, что NVIDIA по-прежнему остаётся главным поставщиком «тяжёлой артиллерии» для обучения ИИ-моделей, несмотря на попытки Amazon, Google и других гигантов снизить зависимость от компании Дженсена Хуанга. И пока конкуренты делают ставку на более дешёвые специализированные решения, NVIDIA продолжает продавать максимальную производительность — пусть и по цене небольшого космического проекта.
Впрочем, рынок постепенно начинает смотреть не только на чистую мощность. Некоторые компании уже оценивают ИИ-чипы по стоимости генерации токенов. Например, по данным Nebius, ускорители Groq способны выдавать до 800 токенов в секунду при цене около 5–10 центов за миллион токенов. Для сравнения, Blackwell от NVIDIA оценивают примерно в 25 центов за тот же объём. Так что гонка в мире ИИ-чипов всё сильнее превращается не только в борьбу за скорость, но и в соревнование за эффективность реальных расходов.
Источник: www.goha.ru