Российский провайдер облачных сервисов Cloud.ru объявил о выделении решений для работы с ИИ в отдельное бизнес-направление. Речь идёт о платформе в формате неооблака (Neocloud), в основу которой положены ускорители на основе GPU.
Отмечается, что при формировании неооблака компания Cloud.ru полагалась на свой опыт в создании ИИ-инфраструктуры и работе с различными типами GPU. По модели GPUaaS (GPU-as-a-Service) провайдер предоставляет доступ к тысячам современных ИИ-ускорителей в публичном облаке. Кроме того, допускается гибридное развёртывание с использованием частной инфраструктуры.
Неооблако предназначено для практического внедрения ИИ в бизнес-процессы. Клиентам предлагается единая управляемая среда, объединяющая инфраструктуру, данные и инструменты. Она обеспечивает полный цикл работы с большими языковыми моделями (LLM) — от разработки и обучения до инференса и эксплуатации. При этом допускается масштабирование ресурсов в соответствии с выполняемыми задачами: могут использоваться как отдельные GPU, так и целые кластеры распределённых вычислений. Инфраструктура может быть адаптирована под разные этапы жизненного цикла ИИ-моделей.
Источник изображения: Cloud.ru
«В условиях ограниченного доступа к GPU и высокой стоимости оборудования компании сталкиваются с ключевым ограничением — невозможностью гибко управлять вычислительными ресурсами. Преимущество формата Neocloud — эффективное использование графических ускорителей под разные типы нагрузок, от дообучения моделей до инференса», — говорит Cloud.ru.
В рамках неооблака предоставляются различные GPUaaS-сервисы: это, в частности, выделенные серверы и виртуализированные ресурсы под управлением Kubernetes, высокопроизводительные кластеры и пр. Для распределённого обучения используются собственная платформа Evolution Distributed Train, а также стандартные инструменты управления вычислениями. Реализованы функции проактивного мониторинга, автоматической замены отказавших узлов, перезапуска задач обучения и управления очередями. По заявлениям Cloud.ru, благодаря эффективному распределению ресурсов между задачами разного масштаба обеспечивается доступность инфраструктуры на уровне 98 %, тогда как оптимизация затрат достигает 80 %.
«Сегодня бизнесу нужна не просто возможность получить доступ к GPU, а среда, в которой можно работать с ИИ на практике — от экспериментов до масштабирования решений. По сути, облако становится базой для реализации ИИ-стратегии, позволяя закрыть весь цикл работы с моделями и не инвестировать в избыточные мощности», — подчёркивает компания.
Источник: servernews.ru