Google, как пишут СМИ, начала извлекать модули оперативной памяти DDR4 из списанных серверов и использовать их в новых системах для ИИ.
Чтобы справиться с дефицитом, Google, мол, разбирает старые серверы и повторно использует исправные детали. Компания даже разработала специальные адаптеры, позволяющие подключать память предыдущего поколения, включая DDR4, к новым ИИ-серверам. В некоторых случаях Google «специально возвращает списанные серверы, чтобы снять с них модули DDR4».
Параллельно компания старается снизить потребность в памяти с помощью оптимизации программ, архитектуры ИИ-моделей и сжатия KV Cache.
Современные проблемы требуют современных решений.
Источник: www.ferra.ru