«Сбер» и «Т-банк» приступили к испытаниям китайских ИИ-ускорителей, сообщают «Ведомости» со ссылкой на собственные источники. В «Альфа-банке» также изучают такую возможность, рассказал изданию представитель руководства компании. Так финансовые организации пытаются найти альтернативу чипам и устройствам от Nvidia, которая покинула российский рынок.
По данным источника «Ведомостей», «Сбер» одним из первых в банковском секторе начал тестировать китайское оборудование. Святослав Соловьев, директор по ИИ в IT-подразделении «Альфа-банка», сообщил, что пока банк не использует китайские чипы для ИИ, но ведёт активные переговоры с производителями и облачными провайдерами. Для проведения тестов рассматриваются графические ускорители (GPU) MetaX C500. Он подчеркнул, что команда компании заинтересована в использовании китайских микросхем для развития ИИ, если они продемонстрируют требуемую производительность.
Представитель ВТБ заявил, что компания «придерживается стратегии технологического суверенитета, в том числе в области ИИ», которая подразумевает «диверсификацию кластеров GPU».
«Мы очень оптимистично смотрим на независимые от Nvidia GPU-технологии. Они способны обеспечить существенно большую прозрачность технологического стека и имеют потенциал снижения общей стоимости владения ИИ-технологиями», — отметил он.
Гарник Арутюнян, заместитель исполнительного директора ЦК НТИ по большим данным МГУ, отметил, что китайские чипы могут эффективно решать основные задачи, стоящие перед банками, такие как скоринг клиентов в режиме реального времени, антифрод, персонализация сервисов, обработка голосовых и текстовых запросов. Однако ограничения могут возникнуть при выполнении более ресурсоёмких задач, таких как дообучение больших языковых моделей или обработка очень высоких нагрузок, где Nvidia остаётся эталоном.
Сложность заключается также в адаптации нейросетей к китайским чипам, предупреждает Александр Беслик, IT-директор компании HFLabs.
«Если на чипах Nvidia можно запустить все, то в случае с другими производителями это невозможно. В отличие от Nvidia они пока не могут быть универсальным решением. Поэтому банки и говорят о тестировании: нужно понять, какая производительность в итоге будет, для каких задач чип подойдёт», – объясняет он.
Главная проблема заключается в программном обеспечении, согласен заведующий кафедрой ИИ Финансового университета Михаил Коротеев. Абсолютное большинство программных реализаций ИИ в настоящий момент ориентируются на стек драйверов и вычислительных сред Nvidia. Переход на новые платформы может потребовать существенной переработки системного программного обеспечения, отмечает он.
Источник: habr.com