20 июля AMD раскрыла полные характеристики своей ИИ-стойки Helios™ и одновременно объявила о крупной сделке. Microsoft начнет разворачивать эти стойки в дата-центрах Azure® во второй половине 2026 года. Чуть более формальная и официальная премьера состоится на днях — на мероприятии Advancing AI. Но главное в новости то, что AMD впервые выходит на рынок не с отдельными ускорителями, а с готовой стойкой целиком. В этой стойке свои GPU, свои CPU, своя сеть и свой софт. Сейчас это отчасти умеет делать Huawei, а основным игроком на рынке выступает, конечно, NVIDIA с их стоечными системами.
Что внутри стойки
AMD Helios™ Rackscale. Источник.
В основе стоечной системы 72 ускорителя Instinct™ MI455X, процессоры EPYC™ 9006 (шестое поколение, кодовое имя Venice) и сетевые DPU Pensando™. Всё это с жидкостным охлаждением и в открытом стоечном форм-факторе OCP.
Всего в стойке 18 вычислительных узлов, в каждом четыре GPU и один CPU.
Стойка весит примерно три тонны, потребляет до 245 кВт и стоит порядка 5,5 млн $ по оценке CNBC.
Технические характеристики GPU:
-
в каждом MI455X 432 ГБ памяти HBM4;
-
пропускная способность 19,6 ТБ/с;
-
в сумме по стойке 31 ТБ HBM4, до 2,9 эксафлопс в FP4 и 1,4 эксафлопса в FP8.
Процессорная часть Zen™ 6. По данным источников, EPYC™ 9006 Venice — первый серверный чип на 2-нм техпроцессе TSMC. В линейке — процессоры до 256 ядер и 512 потоков на сокет.
Сетевая обвязка: 260 ТБ/с внутристоечной (scale-up) пропускной способности и 43 ТБ/с между стойками (scale-out) через UALink over Ethernet.
Софт: ROCm™, валидированный под PyTorch®, TensorFlow™, JAX, vLLM и DeepSpeed.
Насколько это лучше прошлого поколения
AMD Instinct™ MI350X GPUs. Источник.
Предшественником системы можно считать семейство MI350X, однако серверы с такими GPU в принципе не поставлялись AMD в виде стоечных систем.
Скачок заметный, у MI350X было 288 ГБ HBM3e и 8 ТБ/с пропускной способности. MI455X дает 432 ГБ HBM4 и 19,6 ТБ/с, то есть в полтора раза больше памяти, которая работает почти в два с половиной раза быстрее.
По вычислениям рост также существенный: 40 против 20 петафлопс в FP4 и 20 против 5 в FP8.
Сравнение с конкурентами
NVIDIA Vera Rubin™ NVL72. Источник.
AMD Helios™ c MI455X — это прямой конкурент Vera Rubin™ NVL72.
Сравнение любопытное: по чистым флопсам впереди NVIDIA, по памяти — AMD.
По данным источников, Rubin™ выдает 50 петафлопс FP4 против 40 у MI455X, зато памяти у него 288 ГБ против 432 ГБ, и на всю стойку выходит 20,7 ТБ против 31 ТБ у Helios™. Для инференса гигантских моделей с длинным контекстом память часто решает больше, чем пиковые флопсы: 31 ТБ позволяют держать крупнейшие модели целиком в быстрой памяти, не распределяя работу по более медленной сети.
По интерконнекту: внутри стойки паритет с Vera Rubin™ NVL72 (260 ТБ/с), а между стойками AMD заявляет примерно в полтора раза больше. Однако это теоретические выкладки, а как новая технология UALink over Ethernet поведет себя на практике, ещё предстоит увидеть.
Идеологическая разница тоже есть: NVIDIA строит все на проприетарном NVLink® и CUDA®, AMD делает ставку на открытые стандарты: UALink, Ultra Ethernet, OCP-стойку и открытый ROCm. Звучит привлекательно, но есть риск, что «открытость» AMD будет означать «допиливайте сами». Верим в лучшее.
Есть и третий игрок, который не влияет на западный рынок. Huawei с CloudMatrix™ 384 — полноценная стоечная система. 384 ускорителя Ascend® 910C, связанных оптическим интерконнектом, свой софтверный стек CANN вместо CUDA®. По совокупной памяти и пропускной способности система формально обходила NVIDIA GB200 NVL72 за счет большего числа чипов. Прямым конкурентом Helios™ ее назвать нельзя: из-за экспортных ограничений Huawei не продает свои системы западным облакам, а AMD официально не возит топовые Instinct™ в Китай. Два рынка живут параллельно и редко пересекаются.
А помните, раньше AMD конкурировали с Intel? Увы, в сегменте GPU «синие» проиграли вчистую.
Собственный сервер Selectel
В основе — самые современные процессоры Intel® Xeon® 6, до 8 ТБ DDR5 и специально разработанная материнская плата. Арендуйте сервер у нас или закажите в свой дата-центр.
Узнать подробности →
Почему это важно
Источник.
Во-первых, клиенты. Озвученная сделка — первая гиперскейлерная победа стоечного AMD. Облачный провайдер развернет на новых стойках виртуальные машины для продакшн-инференса и добавит две серии инстансов на новых серверных процессорах: для агентных ИИ с дата-пайплайнами и для проектирования микросхем. В списке ранних клиентов также заявлены другие крупные компании.
Во-вторых, сам факт: впервые полный стек от AMD. Здесь GPU, CPU, сеть и софт — все это будет обеспечивать инференс-сервисы крупного публичного облака в масштабе. До сих пор рынок стоечных ИИ-систем был фактически монополией NVIDIA.
Скепсис при этом уместен. Финансовые условия и объемы развертывания никакие стороны не назвали, так что немедленный эффект на выручку и рынок оценить трудно. AMD еще нужно нарастить производство Helios™ и довести ROCm™ до уровня, который гиперскейлеры и другие клиенты ожидают от софта. Цены и даты общей доступности инстансов также пока не объявлены — это заявление о намерениях, а не запуск продукта.
Итог
AMD собрала стойку, у которой больше памяти, чем у конкурента, заявлен сопоставимый интерконнект и заметно более открытая архитектура. Результат не заставил себя ждать: компания подписала контракт с облачным провайдером и заручилась интересом других западных компаний. Осталась «мелочь»: отгрузить это железо в существенных объемах и не споткнуться о собственный софт. Впервые за годы у компании есть реальный шанс пошатнуть доминирование NVIDIA в стоечном ИИ — вопрос лишь в том, насколько чисто она сумеет все это воплотить в жизнь. Ответы начнут появляться уже во второй половине года, когда первые Helios™ поедут в дата-центры. Мы тоже следим за GPU от AMD и, быть может, они вскоре появятся и в наших дата-центрах.
Источник: habr.com