СофтМедиаЛаб создала методику безопасного использования ИИ в разработке

Методика уже опробована в рабочих сценариях СофтМедиаЛаб. Она позволяет поэтапно увеличивать автономность ИИ — от помощи в отдельных задачах до автоматизации значительной части цикла разработки, сохраняя контроль специалистов над ключевыми решениями и проверками.

В компании отмечают, что ИИ-инструменты уже используются на разных этапах разработки, но при разрозненном подходе каждый специалист или команда может выстраивать работу по-своему. Поэтому задача — не просто расширять набор используемых инструментов, а объединить их в единый процесс с понятными правилами и зонами ответственности.

В основу методики заложена последовательность из шести шагов: формулирование и уточнение задачи, анализ требований, проектирование решения, детальное планирование, разработка, проверка и приемка. Для каждого предполагается определить входные и выходные артефакты, ответственных участников и инструменты, которые могут помочь выполнить работу.

ИИ может подключаться уже на этапе постановки задачи. Например, специальный skill способен проверить, насколько полно описаны цель, KPI, ограничения, scope и out of scope, понятны ли используемые термины и определены ли ответственные за принятие решений. На этапе анализа требований ИИ может сопоставлять их с документацией и текущим состоянием проекта, а при проектировании — изучать кодовую базу и ранее принятые архитектурные решения.

Отдельный этап отводится подготовке к разработке. Перед передачей задачи агенту формируется подробный план: определяются места изменений в коде и системах, зависимости, API-контракты, тестовые сценарии и необходимые ссылки на документацию. Это позволяет агенту работать не с общей командой «написать код», а с подготовленным набором шагов и целей.

Для работы над задачами используется и общая память проекта — документация, архитектурные решения, правила и другие сведения, которые должны сохраняться между задачами. Отдельные скиллы и специализированные агенты применяются на разных этапах процесса, в том числе при проверке готового результата и следят за поддержанием полноты и актуальности информации.

Проверка также строится по нескольким направлениям. В зависимости от задачи агенты могут отдельно анализировать архитектуру, безопасность, соответствие исходному scope и особенности конкретного технологического стека. Такой подход позволяет получить несколько независимых оценок результата, а не полагаться на одну автоматическую проверку.

При этом увеличение автономности ИИ не означает отказ от человеческого контроля. Специалисты остаются ответственными за ключевые решения: качество постановки задач, архитектуру, план реализации и приемку результата. При работе агент фиксирует в логах все принятые решения и этапы выполнения, что позволяет в любой момент восстановить историю действий и проанализировать, как развивалось выполнение задачи. Цель — избавить разработчика от постоянного ручного управления агентом, но сохранить контроль в точках, где ошибка может повлиять на требования или устройство системы. 

При построении процесса команда также учитывает риски агентной разработки. Среди них — зацикливание агентов и рост расходов на использование моделей, чрезмерное доверие к автоматическим проверкам, ухудшение архитектуры и неконтролируемое расширение кодовой базы. Поэтому для агентных циклов предусматриваются ограничения, а архитектурные и другие критичные проверки выделяются в отдельные этапы.

«Мы хотим перейти от использования отдельных AI-инструментов к понятному процессу, в котором каждый участник понимает свою роль, а агент получает необходимые контекст и ограничения. Тогда автономность можно увеличивать постепенно: сначала автоматизировать отдельные операции, затем целые этапы, не теряя контроля над результатом», — отмечают в СофтМедиаЛаб.

Сейчас компания продолжает формализовать этот подход: уточняет этапы процесса, развивает набор skills и специализированных агентов, а также определяет требования к проектной документации и взаимодействию с рабочими системами. Такой процесс должен позволить использовать ИИ для ускорения разработки системно, а не как набор отдельных практик, зависящих от конкретного специалиста. Нужна ли обязательная маркировка нейросетевого контента? Россия создаст бесшовные мобильные проекты с Кыргызстаном, Таджикистаном и Узбекистаном Финансовые власти США встревожены перегревом ИИ-экономики

Источник: www.it-world.ru

0 0 голоса
Рейтинг новости
1
0
Подписаться
Уведомить о
0 комментариев