Масштабный запуск платформы NVIDIA Vera Rubin уже отражается не только на рынке ускорителей, но и на смежных сегментах. В частности, рост спроса со стороны компании начал сокращать доступность TLC NAND и подталкивать цены на память вверх.
Важную роль здесь играет технология Context Memory eXtension (CMX), которую NVIDIA внедряет в новую платформу для работы с KV-кэшем — данными, формируемыми моделью ИИ во время обработки запросов. CMX выступает промежуточным уровнем между HBM и традиционным сетевым хранилищем и использует большие массивы TLC-флеш-памяти. Подключение осуществляется через ускорители BlueField-4 DPU и высокоскоростную сеть Spectrum-X Ethernet.
Масштабы системы впечатляют: один сервер CMX формата 2U способен вместить около 600 ТБ TLC-памяти, а емкость целого вычислительного пода может достигать 9,6 ПБ. Параллельно растет потребность дата-центров в производительных корпоративных SSD для ИИ-нагрузок. В результате спотовая цена 512-гигабитного чипа TLC NAND вновь поднялась до $21 после снижения в июне.
При этом значительная часть необходимых NVIDIA объемов, вероятно, уже закреплена долгосрочными контрактами. Однако стремительный рост будущего спроса начинает сказываться и на свободном рынке, где предложение становится заметно напряженнее. Пока неизвестно, насколько далеко зайдет новый виток роста цен.
Источник: www.goha.ru