AMD MEXT: ИИ-технология, использующая Flash-память для смягчения дефицита DRAM

AMD представила MEXT — программное решение, которое использует Flash-память и ИИ, чтобы снизить зависимость серверов EPYC от дорожающей DRAM. На фоне продолжающегося «суперцикла памяти» DRAM уже составляет 75% стоимости сервера, а производители памяти не справляются со спросом.

Ключевая проблема, которую решает AMD, — расточительство DRAM: по данным Microsoft Azure и Meta, 50% памяти избыточно резервируется, 25% «застревает», а 50–80% страниц памяти остаются невостребованными (холодными). MEXT обходит главное ограничение Flash — в 500 раз более медленный доступ, чем у DRAM, — с помощью ИИ-движка, который предсказывает, какие страницы скоро понадобятся, и заранее переносит их в DRAM, а холодные страницы выгружает во Flash. Решение включает лёгкий Linux-драйвер, ИИ-ансамбль на базе трансформеров (работает на одном ядре EPYC без GPU, обучается менее чем за секунду) и платформу наблюдаемости RAM View.

По заявлениям AMD, MEXT сокращает использование DRAM на 20–75% при сохранении производительности и даёт до трёхкратного увеличения ёмкости памяти при гораздо меньших затратах, чем добавление DRAM. В сценариях агентного ИИ комбинация 25% DRAM и 75% MEXT обеспечивает 3,4–3,5-кратный рост производительности на доллар DRAM, в EDA (Synopsys PrimeTime) — до 3,2x при сокращении DRAM на 75%, а в Spark TPC-DS на Azure — до 99% производительности при разделении 50/50.

Технология уже доступна в Phase 1 для серверов EPYC с выделенными NVMe-накопителями; по оценкам AMD, она позволит сэкономить 83% по сравнению с полностью DRAM-конфигурацией и избежать $4,9 млн затрат на память при масштабировании с 145 до 2000 серверов в 2027 году.

Компания также намекнула на возможное применение MEXT за пределами дата-центров — в клиентском сегменте.

Источник: www.playground.ru

0 0 голоса
Рейтинг новости
1
0
Подписаться
Уведомить о
0 комментариев