Компания Huawei публично опровергла сообщения о том, что её модель Pangu Pro MoE с открытым исходным кодом является «переработанным продуктом», созданным на основе разработок Alibaba.
В официальном заявлении лаборатории Huawei Noah’s Ark Lab компания сообщает, что модель Pangu Pro MoE была разработана собственными силами и обучена с нуля на аппаратной платформе Huawei Ascend. Huawei настаивает на том, что модель не была создана путём дальнейшего обучения на модели другого поставщика.
Эти заявления сделаны в ответ на анализ, проведённый компанией «HonestAGI», который был удален с GitHub, но все еще доступен через Wayback Machine. В отчете под названием «Внутренний отпечаток больших языковых моделей: продолжение обучения — это НЕ все, что нужно для кражи модели!» подчеркивается сильное сходство между Pangu Pro MoE от Huawei и Tongyi Qianwen Qwen-2.5 14B от Alibaba, особенно в распределении параметров внимания.
В ныне удалённом анализе с GitHub, который всё ещё можно посмотреть на Wayback Machine, сравнивалась внутренняя структура модулей памяти Huawei Pangu Pro MoE и Alibaba Qwen-2.5 14B
Анонимный анализ с GitHub показал, что модель Huawei, возможно, была обучена не с нуля, а «переработана». Huawei отвергает это утверждение, подчёркивая, что, хотя в некоторых кодах используются «стандартные для отрасли методы работы с открытым исходным кодом», все компоненты с открытым исходным кодом имеют соответствующие лицензии и маркировки.
Обвинения касаются не только Huawei
Обвинения прозвучали в непростой для Huawei момент, когда компания пытается доказать, что её модели Pangu, обученные на чипах Ascend, могут конкурировать с мировыми лидерами в области искусственного интеллекта. Это важно, поскольку Китай ищет альтернативу Nvidia на фоне ужесточения экспортных ограничений со стороны США.
Для Китая чипы Huawei — это способ обойти ужесточение ограничений США в отношении графических процессоров Nvidia. Последствия этих ограничений уже ощущаются: по сообщениям, выпуск модели Deepseek R2 откладывается из-за отсутствия доступа к чипам Nvidia H20.
Компания Huawei продвигает свой будущий процессор Ascend 910C как лучшую альтернативу Nvidia в Китае. Аналитик в области чипов Дилан Патель говорит, что разрыв в производительности между 910C и ранее одобренным в США Nvidia H20 теперь составляет менее года по сравнению с двумя годами у предыдущего 910B. В Китае до сих пор нет альтернативы чипам Nvidia Blackwell, но сообщается, что в разработке находится уменьшенная версия для Китая.
Хотите быть в курсе важных новостей из мира ИИ? Подписывайтесь на наш Telegram‑канал BotHub AI News.
Перевод, источник новости здесь.
Источник: habr.com