MWS AI и Rubytech протестировали ПАК с восемью китайскими GPU как альтернативу решениям Nvidia. Российские компании все активнее испытывают ускорители из КНР, однако их массовому внедрению пока мешают ограничения ПО, совместимости и инфраструктуры.
В России изучают возможные альтернативы ИИ-чипам Nvidia: MWS AI и Rubytech провели совместные испытания ПАКа, оснащенного восемью графическими ускорителями китайского производства.
Rubytech рассчитывает начать полноценный коммерческий запуск ПАКов на китайских GPU в 2027 году. В «МТС Web Services» рассматривают диверсификацию не как переход от одного поставщика к другому, а как последовательную работу, направленную на снижение инфраструктурных рисков.
В ходе испытаний на ПАКе запустили две модели разработки MWS AI. Речь идет о старшей Cotype Pro 3 с 27 млрд параметров и более легкой Cotype Light 3, насчитывающей 9 млрд параметров. Модели способны работать с текстовой и графической информацией и рассчитаны на создание ИИ-агентов. Модели допускают развертывание в закрытой инфраструктуре компании. Перед испытаниями MWS AI изучала пять вариантов китайских ускорителей, однако не уточняется, какой именно чип в итоге использовали в ПАКе. Как утверждают в Rubytech, в некоторых сценариях инференса комплекс с китайскими GPU продемонстрировал показатели, сопоставимые с системами на Nvidia H100. При объеме входного контекста около 27000 токенов модель приступала к генерации ответа приблизительно через 8 секунд. Последующие токены формировались с интервалом от 111 мс, что соответствует скорости до 9 токенов в секунду. Оптимизация драйверов и программного окружения позволила в отдельных задачах увеличить производительность платформы в 2–2,2 раза.
После пилотного проекта Rubytech продолжает доработку комплекса. На первом этапе ПАК будет рассчитан главным образом на инференс. Возможность дообучения моделей разработчик намерен реализовать позднее.
Крупные российские заказчики сейчас находятся на разных стадиях освоения китайских GPU. Весной ВТБ приступил к опытно-промышленной эксплуатации таких ускорителей для задач компьютерного зрения, обработки текстов, распознавания речи и работы генеративных моделей. При этом банк не называл ни производителя оборудования, ни объем приобретенных ускорителей. В мае глава Сбербанка говорил, что китайские чипы пока не используются для GigaChat, однако банк рассчитывает постепенно начать их применение.
Собственные испытания нескольких альтернативных ускорителей, включая решения китайских производителей, ведет и Yadro. По итогам тестирования компания планирует выбрать конфигурации, которые можно будет предлагать заказчикам. Представитель Yadro ожидает роста интереса к подобным решениям на фоне удорожания продукции Nvidia, а также перехода от традиционных PCIe-карт — стандарта шины для обмена данными между процессором и различными компонентами компьютера или сервера — к более закрытым проприетарным платформам.
По словам источника в компании-интеграторе, участвующей в проектах в области ИИ, российский бизнес уже испытывает ИИ-модели как минимум на китайских ускорителях MetaX, Moore Threads и Huawei Ascend.
Заявленные характеристики китайских GPU не всегда подтверждаются в реальных задачах. Так, протестированный Fplus ускоритель Tongxin от Shanghai Wutongshu High-Tech должен был уступать Nvidia A100 на 20–25% и превосходить A40, но фактически оказался медленнее обеих карт из-за несовместимости с CUDA и незрелого ПО. При этом более развитые решения, включая Huawei Ascend, уже достигают 60–80% производительности Nvidia H100.
Astra Cloud при тестировании MetaX C550 также обнаружила ограничения совместимости и оценила его уровень как сопоставимый скорее с Nvidia A100. Российские ускорители «НТЦ Модуль» и LinQ ориентированы преимущественно на периферийный инференс и видеоаналитику, поэтому напрямую сравнивать их с A100 и H100 некорректно.
По оценке Cloud.ru, зрелость китайских платформ существенно различается, а перенос моделей с Nvidia CUDA может занимать несколько месяцев. Поэтому распространение альтернативных GPU может идти прежде всего через готовые ПАКи и облака. В ГК «Аквариус» считают, что рост числа таких решений в 2027 г. еще не приведет к массовому замещению Nvidia: для этого потребуется несколько лет развития ПО и сервисной поддержки. Fplus ожидает формирования мультиплатформенного рынка. Нужна ли обязательная маркировка нейросетевого контента? Россия создаст бесшовные мобильные проекты с Кыргызстаном, Таджикистаном и Узбекистаном Финансовые власти США встревожены перегревом ИИ-экономики
Источник: www.it-world.ru