Годами NVIDIA удерживала рынок ИИ-ускорителей не только благодаря мощным видеокартам, но и за счёт CUDA — программной экосистемы, переход с которой на другую платформу требовал месяцев работы. Однако Anthropic, похоже, нашла способ заметно сократить этот срок.
Согласно материалам для презентации инвесторам перед IPO, модели Claude Mythos Preview потребовалось всего около трёх дней, чтобы разобраться, как запустить другую модель на ускорителях AMD Instinct MI355X. Обычно подготовка новой вычислительной платформы для инференса занимает от шести до двенадцати месяцев. Такой результат показывает, насколько продвинутые ИИ-модели способны упростить перенос программного обеспечения между разными аппаратными решениями.
Для NVIDIA это потенциально неприятный сигнал: если переход на альтернативные ускорители перестанет быть сложной и долгой задачей, зависимость рынка от CUDA может постепенно ослабнуть. Впрочем, объявлять экосистему компании мёртвой пока рано. За ней стоят годы оптимизации, библиотеки, инструменты, развитая инфраструктура и огромное сообщество разработчиков. NVIDIA также продолжает укреплять свои позиции за счёт собственных технологий вроде NVLink и InfiniBand, а также поддержки исследователей.
Источник: www.goha.ru