Amazon Web Services (AWS) представила новое оборудование для охлаждения графических процессоров Nvidia, которые активно используются для работы с ИИ.
Мощные чипы Nvidia потребляют много энергии и сильно нагреваются. Чтобы справиться с этим, Amazon сначала рассматривала возможность создания дата-центров со стандартным жидкостным охлаждением, но этот подход оказался слишком дорогим, сложным и затратным по времени. Поэтому инженеры AWS разработали собственную систему охлаждения — In-Row Heat Exchanger (IRHX). Она компактна, не требует перестройки дата-центров и не расходует много воды. Новая система подходит как для старых, так и для новых центров обработки данных.
Теперь пользователи могут воспользоваться мощными вычислительными ресурсами AWS под названием P6e, которые работают с последними графическими процессорами Nvidia GB200 NVL72. Эти GPU размещаются в стойках по 72 штуки и используются для обучения и запуска больших ИИ-моделей.
Источник: www.ferra.ru