d-Matrix Raptor меняет ёмкость HBM на пропускную способность 3D-DRAM. На Hot Chips 2026 компания d-Matrix представила другой подход к обеспечению процессоров данными. Ускоритель Raptor размещает кристалл логики TSMC N4 непосредственно поверх специально разработанной DRAM с использованием face-to-face-стэкинга, вместо размещения крупных стеков HBM рядом с процессором. Компания утверждает, что такое короткое соединение обеспечивает значительно более высокую пропускную способность при меньшем энергопотреблении.
Raptor объединяет 32 ГБ 3D-DRAM с пропускной способностью более 100 ТБ/с. Для сравнения, d-Matrix указывает для конфигурации с 192 ГБ HBM4 около 18 ТБ/с. Хотя HBM предлагает значительно большую ёмкость, 3D-DRAM предназначена для перемещения меньшего объёма данных с гораздо более высокой скоростью.
Технология предназначена для ИИ, а не игровых GPU. По словам d-Matrix, этап декодирования больших языковых моделей часто ограничен пропускной способностью памяти, поскольку для каждого нового токена требуется повторный доступ к данным модели и KV-кэшу. Именно здесь компания ожидает наибольшего эффекта от своей конструкции 3D-DRAM.
омпания измерила энергозатраты своего вертикального соединения памяти на уровне 0,37 пДж/бит, тогда как в её сравнении для HBM4 указано примерно 2–3 пДж/бит. Однако даже при пропускной способности 100 ТБ/с Raptor требуется около 296 Вт только для операций ввода-вывода памяти, что показывает, сколько энергии необходимо для перемещения данных с такой скоростью.
d-Matrix также заявляет примерно о 20-кратном превосходстве по пропускной способности на мм² и в 13,5 раза меньшем энергопотреблении на единицу пропускной способности по сравнению с конфигурацией NVIDIA Rubin R200 с HBM4. Это собственные расчёты d-Matrix по площади кремния, а не независимые тесты производительности, однако они показывают, чего компания пытается добиться, размещая DRAM непосредственно под вычислительной логикой.
Размещение DRAM настолько близко к мощному логическому кристаллу создаёт проблемы с нагревом, обновлением и надёжностью, тогда как 32 ГБ на карту значительно уступают по ёмкости современным ИИ-ускорителям на базе HBM. d-Matrix разработала более быстрое обновление, ECC и резервные банки памяти с учётом этих ограничений. Поэтому Raptor — это не просто более быстрая HBM, а другая конструкция памяти, созданная для ИИ-нагрузок, где пропускная способность имеет приоритет над ёмкостью.
Raptor пока не является готовым продуктом. Презентация на Hot Chips описывает планируемый коммерческий ускоритель и его целевые характеристики, тогда как сама технология 3D-DRAM уже была продемонстрирована на тестовом кремнии Pavehawk — испытательном чипе 3D-DRAM от d-Matrix.
Источник: ServeTheHome.
Источник: www.playground.ru