AMD внедрила программно-аппаратную технологию MEXT, позволяющую значительно сократить расходы на дорогую оперативную память в дата-центрах за счет использования твердотельных накопителей.
В современных крупных серверах стоимость модулей DRAM может достигать от 60% до 90% общего бюджета оборудования.
По словам вице-президента AMD по развитию бизнеса Гэри Смердона, флеш-память стоит в 50 раз дешевле в пересчете на бит и потребляет в 30 раз меньше энергии, однако работает примерно в 500 раз медленнее оперативной памяти.
Чтобы нивелировать критическую разницу в задержках, MEXT задействует компактную ИИ-модель машинного обучения, производную от архитектуры Transformer. Вместо предсказания следующего слова в тексте алгоритм анализирует обращения процессора и прогнозирует, какие именно страницы памяти понадобятся следующими. Неактивные данные незаметно для операционной системы и приложений выгружаются на SSD, а перед повторным запросом заранее возвращаются в быструю DRAM. Первоначальное обучение модели занимает менее одной секунды на одном ядре процессора EPYC и не требует графического ускорителя.
Внутренние тесты подтвердили высокую эффективность такого подхода. В среде Apache Spark система сохранила 99% исходной производительности при замене половины оперативной памяти на флеш-накопители. В пакете проектирования Synopsys PrimeTime показатель быстродействия составил 95% при замене половины DRAM и 80% при сокращении физического объема ОЗУ до четверти от номинала.
На практике развертывание MEXT на 86 внутренних серверах AMD обеспечило около 58 ТБ дополнительного виртуального пространства. Закупка аналогичного объема классической DRAM обошлась бы в 3,3 млн долларов США, тогда как затраты на внедрение технологии составили лишь 601 тыс. долларов США, обеспечив чистую экономию в размере 2,78 млн долларов США или 82%.
На первых 145 коммерческих системах суммарная выгода оценивается примерно в 5 млн долларов США. Решение ориентировано на платформы AMD EPYC под управлением Linux, использует специальный модуль ядра и утилиту мониторинга RAM View, а его коммерческое лицензирование через партнеров вроде HPE стартует на следующем этапе.
theregister.co.uk
Павлик Александр
Источник: ru.gecid.com