AMD сообщила дополнительные подробности о GPU Instinct MI430X, предназначенных для HPC и научных задач с применением ИИ, а также представила результаты тестирования производительности в задачах инференса ускорителей Instinct MI455X в составе стоечного решения AMD Helios. Кроме того, компания анонсировала GPU Instinct MI450X, предоставляющий пользователям AMD Helios ещё один вариант подбора объёма памяти в соответствии с требованиями их ИИ-нагрузок и спецификой развёртывания систем.
Компания отметила, что научное моделирование, передовые ИИ-системы и интерактивный инференс предъявляют разные требования к инфраструктуре, и ускорители серии MI400 позволяют их удовлетворять благодаря поддержке вычислений с двойной точностью (FP64) на аппаратном уровне, большому объёму памяти для ресурсоёмких моделей ИИ и расширенным вариантам конфигурации. Так, Instinct MI430X разработан для задач, сочетающих высокоточное моделирование и ИИ. Аппаратная поддержка FP64-вычислений позволяет выполнять сложные научные расчёты, а наличие 432 Гбайт HBM4 (ПСП до 23,3 Тбайт/с) — работать с более масштабными моделями и наборами данных.
AMD по-прежнему отдаёт должное роли аппаратной поддержки FP64-вычислений в научных исследованиях. В её новом исследовании рассматриваются 47 конфигураций рабочих нагрузок в 11 приложениях и бенчмарках. В нём анализируется, в каких случаях может быть полезна эмуляция вычислений с двойной точностью, а в каких — научные программные коды требуют «родной» поддержки FP64. Результаты исследований подтверждают правильность выбранного курса: Instinct MI430X призван удовлетворить разнообразные вычислительные потребности в HPC и ИИ для научных исследований.
Источник изображения: AMD
Новое тестирование AMD демонстрирует возможности MI455X в составе системе AMD Helios в задачах инференса: показатель достиг 21 333 токенов в секунду на один GPU при работе с моделью DeepSeek-R1 (согласно методике MLPerf Inference Offline). Это обеспечивает пропускную способность на 30 % выше, чему NVIDIA Vera Rubin в том же тесте MLPerf (согласно последним опубликованным результатам). Система AMD Helios обладает на 20 % более высокой пропускной способностью памяти HBM и более широкой полосой пропускания для масштабирования внутри узла (scale-up) по сравнению с NVIDIA Vera Rubin, что и отражают результаты.
Анонсированный GPU AMD Instinct MI450X предоставляет пользователям AMD Helios больше гибкости при выборе оборудования, соответствующего их задачам в области ИИ и требованиям к развёртыванию. Чип оснащён 288 Гбайт памяти HBM4, что является главным отличием от MI455X. При этом у него те же вычислительные возможности, пропускная способность памяти и функции масштабирования (как внутри узла, так и между узлами), что и у MI455X.
Для рабочих нагрузок, которые «умещаются» в MI450X, новинка становится ещё одним эффективным решением: она позволяет достичь целевых показателей пропускной способности и времени отклика, оптимизируя при этом операционные расходы. Оба варианта поддерживаются единой открытой архитектурой стоечного уровня и программной платформой AMD ROCm, но у MI455X дополнительный запас памяти — что важно для работы с более крупными моделями, длинными контекстами или при необходимости обработки большего количества запросов одновременно.
Источник: servernews.ru