Selectel, крупнейший независимый провайдер ИT-инфраструктуры в России, обновил каталог ИИ-моделей (Foundation Models Catalog) для работы с большими языковыми моделями. Обновления усиливают возможности платформы для корпоративных заказчиков: компания обеспечила приватный доступ к моделям, пополнила каталог продвинутыми генеративными моделями, а также расширила возможности для построения геораспределённых систем за счёт добавления нового региона ru-6. Эти изменения позволят бизнесу быстрее запускать ИИ-решения, снижать операционные расходы и соблюдать стандарты информационной безопасности при работе с чувствительными данными.
Каталог ИИ-моделей входит в состав ИИ-платформы Selectel — экосистемы сервисов для обучения и запуска генеративных моделей, которая помогает компаниям ускорить интеграцию ИИ-решений. Это даёт бизнесу возможность использовать большие языковые модели, инструменты агентской разработки и другие ИИ-технологии без необходимости самостоятельной настройки ИТ-инфраструктуры, существенно снижая технические барьеры на пути к внедрению инноваций.
Источник изображения: Selectel
Теперь сервис стал доступен в новом отказоустойчивом регионе на базе трёх независимых зон доступности. Клиенты могут развернуть два одинаковых инференс-сервиса в разных зонах доступности и строить мультирегиональные схемы, снижая риски простоя за счёт геораспределённости инфраструктуры.
При создании инференс-сервиса теперь можно выбрать тип доступа: публичный (через интернет) или приватный (доступ только внутри приватной сети пользователя, без выхода трафика в интернет). Компании смогут построить приватный канал между собственной инфраструктурой и дата-центрами Selectel через услугу Direct Connect и направлять запросы к каталогу ИИ-моделей через него. Это позволит бизнесу с повышенными требованиями к безопасности работать с моделями в изолированном контуре, что особенно актуально для финансовых, медицинских и государственных организаций, обрабатывающих чувствительные данные.
Каталог пополнился новыми моделями в квантизации NVFP4, которая повышает производительность при незначительном снижении точности. Технология оптимизирована под GPU поколения Blackwell, что позволяет запускать ресурсоёмкие модели на компактных конфигурациях. Стали доступны модели семейства Queen с максимальным размером контекста — 262 000 токенов, что позволяет работать с большими документами и долгими агентскими сценариями с сохранением высокой точности. В ближайшее время появятся и другие популярные модели в квантизациях FP8 и NVFP4, оптимизированные под GPU, которые доступны в новом регионе ru-6.
Источник: servernews.ru