Компания Intel на выставке Vision 2024 официально представила свежую линейку ускорителей для задач, связанных с искусственным интеллектом — Gaudi 3. В серию уже вошло несколько моделей, которые могут стать достойным конкурентом выпущенному ранее ускорителю ИИ Intel H100.
Конфигурация Gaudi 3 предполагает наличие двух кристаллов, изготовленных с использованием 5-нанометрового технологического процесса, которые работают в паре с восемью стеками памяти HBM2e. Решение задействовать именно данное поколение памяти может показаться странным, так как конкуренты уже начали переходить на HBM3e или ее аналоги.
Ускоритель получил 64 тензорных ядра пятого поколения (по 32 на каждом кристалле) и 128 ГБ вышеупомянутой памяти с пропускной способностью 3,7 ТБ/с. Две вычислительные микросхемы оснащены по 48 ГБ памяти SRAM с пропускной способностью 12,8 ТБ/с. SRAM работает как низкоуровневый кэш и предназначена для передачи данных между тензорными ядрами и памятью HBM. Показатель TDP составляет 900 Вт для топовой версии. Она выпускается в форм-факторе модуля OAM. Также компания представила ускорители с теплопакетом 450 Вт и 600 Вт — это двухслотовые ускорители PCIe Gen 5.
Производительность ускорителей колеблется на отметке 1835 TFOLPS в вычислениях FP8 независимо от варианта исполнения. Модификацию PCIe можно объединить в кластер из четырёх устройств, а OAM — в восьмимодульный кластер.
В компании Intel утверждают, новый ускоритель Gaudi 3 на голову обходит существующий H100. Так, например, скорость работы в задачах по обучению ИИ-моделей выше на 70%, а в задачах вывода данных — на 50%. Энергоэффективность Gaudi выше на 40%. Правда, по какой-то причине Intel не приводит сравнение с аналогами от AMD.
Массовое производство Intel Gaudi 3 стартует во второй половине текущего года, однако первую партию устройств заказчики получат в ближайшие три месяца.
Источник: trashbox.ru
