NVIDIA и Amazon расширяют многолетнее сотрудничество в области ИИ-инфраструктуры. В рамках новой договоренности AWS сможет развернуть до трех миллионов ИИ-ускорителей NVIDIA по всему миру для задач агентного и физического ИИ, автоматизации и других вычислительных нагрузок.
Изначально компании договорились о поставке одного миллиона GPU, однако теперь к этому объему добавят еще два миллиона. Amazon рассчитывает дополнить собственные ускорители Trainium решениями NVIDIA, предоставив клиентам AWS больше вариантов оборудования для ИИ-вычислений. Параллельно компании работают над интеграцией процессоров Vera в облачную платформу Amazon, что особенно актуально на фоне растущих требований агентных ИИ-систем к центральным процессорам.
Еще одним направлением сотрудничества станет использование технологии NVHBM. Она позволит повысить эффективность памяти в системах с ускорителями Trainium: по заявлению NVIDIA, NVHBM обеспечивает на 30% большую пропускную способность и на 15% более высокую энергоэффективность по сравнению с HBM4E. Таким образом, партнерство охватывает уже не только GPU, но и CPU, память и другие компоненты ИИ-инфраструктуры.
Отдельно Amazon выделила государственный сектор США: 100 тысяч GPU из общего объема предназначены для специальных «ИИ-фабрик», рассчитанных на работу с государственными задачами уровня безопасности Impact Level 6. Глава NVIDIA Дженсен Хуанг отметил, что спрос на вычислительную платформу компании в AWS оказался выше первоначальных прогнозов, поэтому сотрудничество теперь расширяется на весь технологический стек.
Источник: www.goha.ru