Американская компания Credo Technology Group Holding Ltd, специализирующаяся на создании высокоскоростных решений для передачи данных, объявила о планах по разработке стандартного интерконнекта в рамках проекта OCP (Open Compute Project). Предполагается, что новая технология поможет в решении проблемы «стены памяти» в современных ИИ-системах.
В настоящее время наблюдается значительный разрыв в вычислительных мощностях ИИ-ускорителей и возможностях памяти. Производительность ИИ-ядер растет в разы быстрее, чем пропускная способность шин и модулей памяти. В результате, ускорители большую часть времени простаивают в ожидании данных. Это приводит к неэффективному использованию доступных ресурсов и падению быстродействия всей системы в целом. При этом чипы HBM, которыми оснащаются передовые GPU-карты, остаются не только очень дорогими, но и ограниченными по ёмкости.
Источник изображения: Credo
Для решения проблемы Credo сформировала рабочую группу OCP Open Chiplet Economy (OCE) Lightweight Serial Interconnect (LSI) Workstream. Она займётся стандартизацией высокоэффективного последовательного интерконнекта для связи чиплетов и модулей в составе ИИ-платформ. Предполагается, что новая технология снизит зависимость от НВМ и поможет более полно использовать доступные вычислительные мощности. Разработчики ИИ-систем смогут адаптировать архитектуру под разные модели, потоки данных и характеристики нагрузок. Такой подход, как утверждается, обеспечит увеличение плотности памяти до 25 раз по сравнению с нынешними решениями и позволит поднять пропускную способность на 5 % по отношению к HBM4.
В целом, инициатива будет способствовать переходу к компонуемой инфраструктуре, в которой вычислительные ресурсы, память и хранилища данных могут комбинироваться для достижения оптимальных показателей производительности и экономической эффективности. В рамках проекта Credo предоставит ОСР спецификацию OmniConnect Lightweight AXI Framer.
Источник: servernews.ru