На площадке Open Compute Project (OCP) появилось официальное описание стандарта High Bandwidth Flash (HBF), разработанного совместно Sandisk и SK hynix. Технология нацелена на то, чтобы стереть границу между сверхбыстрой памятью HBM и ёмкими массивами 3D NAND.
Согласно опубликованным данным, один пакет HBF может вмещать до 512 ГБ. Достигается это за счёт вертикальной компоновки из 8 или 16 кристаллов, но называть их стандартной NAND некорректно: это специализированные чипы с параллельным доступом, которые изначально проектировались под высокоскоростной интерфейс, а не просто заимствованы из потребительских SSD. По пропускной способности HBF разделён на три класса — от примерно 0,4 до 3 ТБ/с. Верхняя планка в 3 ТБ/с формально превышает возможности одного стека HBM4 (2 ТБ/с). Правда, прямое сравнение по задержкам будет не в пользу HBF — она всё же построена на принципах энергонезависимой флеш-памяти, а не DRAM, поэтому мгновенный отклик DRAM здесь недостижим.
Новый стандарт памяти готовится к выходу
В основе коммуникации лежит интерфейс UCIe (Universal Chiplet Interconnect Express). Для самого производительного варианта подразумевается одна линия UCIe на 64 линии со скоростью 64 ГТ/с. Это требует довольно сложного базового кристалла: в ранних концептах Sandisk для выхода на 400+ ГБ/с с пакета применялось 16 HBF-чипов, каждый из которых содержит множество массивов с одновременным доступом по выделенным дорожкам записи и чтения. Позиционируют HBF как новый уровень памяти для AI-нагрузок, где модели уже не обучают, а прогоняют через них большие объёмы данных. Здесь критичны ёмкость и физическая близость к вычислительным ядрам. У классических стеков HBM4 верхний предел на сегодня — 64 ГБ, тогда как один стек HBF предлагает до 512 ГБ, пусть и с меньшей скоростью.
Показательно, что спецификация появилась в экосистеме OCP, а значит, технология претендует на роль открытого стандарта, а не проприетарного решения одной компании. Тем не менее вопрос с рыночной поддержкой остаётся открытым и на текущий момент о предметном интересе к участию в консорциуме HBF заявили только Google и Tenstorrent. Крупные производители ускорителей и памяти — AMD, Intel, NVIDIA, Samsung, Micron, Qualcomm, Marvell, Broadcom и Western Digital — никаких публичных сигналов не подавали. Без вовлечения хотя бы нескольких из этих игроков дорога HBF к реальным продуктам может оказаться долгой.
Стек памяти HBF
Стоит отметить, что идея совместить преимущества NAND и HBM не возникла на пустом месте: потребность в экономически оправданных терабайтах памяти рядом с ускорителями растёт по мере усложнения генеративных моделей и увеличения длины контекста. Способна ли именно HBF закрыть эту нишу или рынок пойдёт другим путём, пока неясно.
Хватит ли HBF потенциала, чтобы заинтересовать ведущих производителей GPU и стать массовым стандартом, или технология останется нишевым продуктом для ограниченного круга задач инференса?
НовостиЖелезо и технологии
Источник: vgtimes.ru