SanDisk и SK hynix опубликовали первую техническую спецификацию High Bandwidth Flash (HBF) в рамках проекта Open Compute Project. Компании начали работу над новым стандартом в феврале, а позднее к консорциуму HBF присоединились Google и Tenstorrent.
HBF использует вертикально объединённую в стек память NAND Flash, обеспечивая большую ёмкость и пропускную способность в непосредственной близости от ИИ-ускорителя. Технология ориентирована на задачи инференса, где крупным языковым моделям требуется больше памяти, чем могут предоставить модули HBM, установленные рядом с графическими процессорами и другими вычислительными устройствами.
Спецификация описывает требования к производительности, электрические параметры и интерфейс взаимодействия между стеком HBF и хост-процессором. Кроме того, документ включает рекомендации по упаковке, надёжности, а также инструкции для программного обеспечения по выполнению операций чтения и записи.
SanDisk и SK hynix не рассматривают HBF как прямую замену HBM. Спецификация предусматривает совместное использование обеих технологий в одной системе: HBM предназначена для задач, требующих минимальной задержки, тогда как HBF обеспечивает дополнительную ёмкость для хранения весов моделей и других данных, используемых при инференсе.
Ранее SanDisk заявляла, что стек HBF из 16 кристаллов сможет обеспечить 512 ГБ памяти, сохранив при этом размеры корпуса, сопоставимые с HBM. По оценке компании, HBF способна предложить в 8–16 раз большую ёмкость при сопоставимой стоимости. Согласно моделированию с использованием модели Llama 3.1 405B, производительность системы с HBF отличалась всего на 2,2% от системы с неограниченным объёмом HBM.
Ранее SanDisk планировала выпустить первые образцы HBF во второй половине 2026 года. Ожидалось, что первые устройства для ИИ-инференса с использованием новой технологии начнут поставляться в виде инженерных образцов в начале 2027 года, однако в последнем анонсе обновлённый график вывода продуктов представлен не был.
Публикация открытой спецификации предоставляет разработчикам ускорителей, памяти и вычислительных систем единый интерфейс ещё до появления коммерческих продуктов на базе HBF. SanDisk, SK hynix и Google представят технологию в рамках конференции Future of Memory and Storage Conference, которая состоится 6 августа.
Источник: www.playground.ru