Alibaba представила открытый программный стек SAIL (Snow AI Infrastructure Layer) для собственных AI-ускорителей Zhenwu. Проект был анонсирован на конференции World AI Conference (WAIC), а его исходный код станет доступен разработчикам по открытой лицензии.
Alibaba пытается решить проблему, которую многие аналитики считают главным источником лидерства Nvidia на рынке искусственного интеллекта, — зависимость разработчиков от экосистемы CUDA.
Доминирование Nvidia — не только GPU
За последние годы Nvidia превратилась из производителя графических процессоров в поставщика полноценной программно-аппаратной платформы для искусственного интеллекта.
Практически любой современный стек машинного обучения так или иначе опирается на CUDA, а также связанные с ней библиотеки — cuDNN, NCCL, TensorRT и другие компоненты. Именно под них оптимизируются PyTorch, TensorFlow, JAX и большинство инструментов для обучения и инференса моделей.
В результате даже если альтернативный ускоритель оказывается дешевле, энергоэффективнее или производительнее в отдельных сценариях, переход на него редко ограничивается заменой оборудования. Компаниям приходится адаптировать код, переписывать отдельные компоненты, менять инструменты оптимизации и заново тестировать рабочие нагрузки.
Эффект vendor lock-in считается одним из главных конкурентных преимуществ Nvidia.
Что предлагает Alibaba
По данным компании, SAIL включает ключевые компоненты программной платформы для AI-ускорителей: компилятор, драйверный слой, API для выполнения вычислений, инструменты интеграции с популярными AI-фреймворками.
Alibaba заявляет, что существующие ИИ-проекты можно адаптировать под SAIL менее чем за неделю. Пока это заявление не получило независимого подтверждения.
Открытый исходный код также должен упростить развитие экосистемы силами сторонних компаний и исследовательского сообщества.
Что предлагает Alibaba
Практически каждый крупный производитель AI-ускорителей сегодня понимает, что конкурировать только производительностью чипов уже недостаточно. Основная борьба постепенно смещается в область ПО.
AMD развивает ROCm, Intel делает ставку на oneAPI, Huawei продвигает CANN. Теперь к этому списку присоединилась и Alibaba со своим SAIL.
Особенно важным этот процесс становится для Китая, который после введения экспортных ограничений США активно инвестирует в создание собственной независимой ИИ-инфраструктуры — от языковых моделей до специализированных ускорителей.
Появление очередной альтернативы CUDA само по себе не означает, что позиции Nvidia пошатнутся.
CUDA развивается почти два десятилетия. За это время вокруг платформы сформировалась огромная экосистема библиотек, SDK, инструментов разработки и миллионов строк оптимизированного кода. Именно эту экосистему сегодня практически невозможно воспроизвести за несколько лет.
Но история с SAIL показывает более важную тенденцию. Рынок постепенно приходит к пониманию, что главным активом производителей ИИ-ускорителей становятся уже не сами чипы, а программные платформы вокруг них. Если десять лет назад конкуренция шла преимущественно за количество вычислительных блоков и пропускную способность памяти, то сегодня вопрос в том, насколько легко разработчик сможет перенести существующую модель на новое оборудование.
SAIL выглядит не как попытка создать «убийцу CUDA», а как ещё один шаг в долгосрочной борьбе с эффектом vendor lock-in. И если альтернативным программным стекам удастся сделать миграцию действительно простой и дешёвой, именно это может стать главным фактором перераспределения сил на рынке AI-инфраструктуры в ближайшие годы.
Верите, что у Alibaba получится конкурировать с Nvidia?
Источник: habr.com