AppSec Solutions добавила в платформу AppSec.Track проверку ML-моделей из публичных репозиториев.
При запросе модели из Hugging Face через корпоративный репозиторий она автоматически помещается в «карантин» — изолированную среду, где проходит анализ без запуска. После завершения проверки AppSec.Track определяет, можно ли использовать модель в корпоративной среде.
Помимо самой модели платформа проверяет библиотеки и зависимости, необходимые для ее работы. Для этого используется собственная база данных уязвимостей, которая охватывает основные экосистемы распространения программных компонентов, включая PyPI, npm, Maven, NuGet, а также специализированные ML-репозитории. На этапе сборки AppSec.Track формирует SBOM (список компонентов ПО) и автоматически проверяет их на наличие известных рисков.
«Модели из публичных хабов распространяются в сериализованных форматах, которые при загрузке способны выполнить произвольный код на машине разработчика или прямо в CI. Достаточно один раз подтянуть заражённую модель, чтобы злоумышленник получил доступ к среде. Классический сканер зависимостей такую угрозу не видит: вредонос спрятан внутри самого файла модели, а не в списке пакетов. Правильный ответ индустрии — переезд на safetensors. Этот формат по своей конструкции не хранит исполняемый код. Но пока значительная часть публичных хабов лежит в pickle, необходим механизм предварительной проверки. Поэтому мы разделили тестирования на два этапа: на входе в контур модель разбирается изнутри и дальше не пересканируется, а на сборке её окружение контролируется по SBOM через наш фид», — поясняет Михаил Макаров, руководитель продукта AppSec.Track.
Ранее в AppSec.Track появилась интеграция с MCP (Model Context Protocol), которая позволяет ИИ-ассистентам в среде разработки напрямую обращаться к платформе. Разработчики могут проверять сторонние open-source компоненты, выявлять уязвимости, а также находить несуществующие и вредоносные пакеты прямо в диалоге с ИИ-ассистентом.
В даркнете продают «ключи» к аккаунтам Google. Как защититься от взлома? Кредитный конвейер: как автоматизация полного цикла займа меняет экономику МФО Российские решения для ЖКХ и ИТС
Источник: www.it-world.ru