Positive Education, центр практического обучения Positive Technologies, первым в отрасли собрал все передовые практики разработки с ИИ-агентами в отдельный образовательный спринт. Программа посвящена безопасному использованию агентов в разработке и защите агентных решений. Первый поток стартует 23 ноября и пройдет онлайн.
Появление программы связано с быстрым распространением ИИ в разработке. Агенты уже работают с репозиториями, данными и внешними инструментами, выполняют команды и самостоятельно вносят изменения в код. Вместе с этим растут риски. Исследование CodeRabbit показало, что созданный с помощью ИИ код содержит в 2,7 раза больше уязвимостей безопасности, чем написанный разработчиками вручную. Поэтому командам приходится пересматривать подходы к контролю кода, прав агента, его доступа к данным, секретам и внешним инструментам.
Программу спринта «Безопасная разработка с ИИ-агентами» разработали практикующие эксперты Positive Technologies, которые занимаются безопасностью приложений, исследованием ИИ-технологий и их применением в разработке и задачах кибербезопасности. В основу обучения вошли подходы и задачи, с которыми специалисты работают в реальных проектах. Участники разберут два сценария: безопасное использование кодинг-агентов в разработке и проектирование собственных агентных систем с учетом новых угроз. В программе — моделирование угроз, управление контекстом и доступами, защита памяти и внешних инструментов, проверка созданного агентом кода и обязательные проверки безопасности перед выпуском.
Основной объем спринта занимает практика. Участники проведут аудит готовых проектов, найдут и исправят уязвимости, а в итоговой работе создадут собственного ИИ-агента и проверят его безопасность перед запуском. Общая продолжительность программы — около 40 часов в течение трех недель.
Спринт рассчитан на разработчиков, AppSec- и DevSecOps-инженеров, архитекторов приложений, инженеров и владельцев ИИ-проектов. Регистрация на первый поток уже открыта.
Источник: habr.com