Привет, Хабр!
Меня зовут Андрей Бирюков. Я — независимый эксперт в области ИТ и ИБ, преподаю в учебных центрах и пишу статьи и книги.
Развертывание ИИ‑агентов в большинстве организаций происходит по однотипному сценарию:
«Давайте возьмём LLM, дадим ей доступ к нашим системам через API и пусть она сама разбирается, что к чему».
И вроде бы всё логично: через месяц мы получаем вполне рабочее демо, но ещё через три решение разваливается после запуска в продуктивной среде.
Причины такого поведения почти всегда кроются в архитектуре системы. Агент уходит в бесконечный цикл рефлексии, вызывает не тот инструмент, теряет контекст на пятом шаге или, что хуже, выполняет действие, которое не должен был выполнять.
Здесь корень проблемы кроется в том, что агент воспринимается как «умный промпт», а не как распределённая система. В то время как настоящий агент представляет собой совокупность:
-
контура принятия решений (агентного цикла);
-
набора инструментов с ограниченными правами;
-
памяти, вынесенной за пределы контекстного окна;
-
политик безопасности, которые работают даже тогда, когда модель ошибается.
Без этого каркаса LLM остаётся генератором текста, а не исполнителем работы.
В этой статье мы рассмотрим правильный выбор паттерна оркестрации, проектирование агентного цикла с точками контроля и многоуровневой документации, а также привязку к бизнес‑ценности.
Ключевые архитектурные паттерны ИИ‑агентов
Первое архитектурное решение, которое нужно принять, — это определить степень свободы агента. Паттерны удобно расположить по шкале от полностью детерминированных к полностью динамическим.
Далее мы рассмотрим каждый из используемых паттернов подробнее и начнём с детерминированных конвейеров.
Детерминированные конвейеры
Здесь последовательность шагов задана кодом, а LLM используется точечно, например, для извлечения сущностей из письма или классификации запроса.
Плюсами такого подхода являются предсказуемость, простота отладки и низкая стоимость. Ну а основным минусом является то, что паттерн не работает там, где число шагов заранее неизвестно.
Здесь наглядным примером является обработка типового обращения в поддержку, где маршрут от классификации к поиску в базе знаний и последующему формированию ответа фиксирован.

Одиночный агент с инструментами (Single Agent)
Следующий паттерн — это одиночный агент с инструментами (Single Agent). Здесь LLM получает набор функций и сама решает, какую из них нужно вызвать.
Такой паттерн подходит для структурированных задач с небольшим ветвлением. Например, если нам нужно найти клиента в CRM, посмотреть историю заказов и сформировать сводку.
В этом паттерне ограничения проявляются быстро, так как контекстное окно забивается результатами вызовов, а при длинных цепочках модель начинает «забывать» исходную цель.

Sequential / Handoff (передача эстафеты)
Паттерн Sequential / Handoff (передача эстафеты) предполагает разбиение задачи на этапы, каждый из которых содержит своего агента и промпт.
В данном случае:
-
агент‑аналитик собирает данные;
-
агент‑валидатор проверяет их на соответствие правилам;
-
агент‑оформитель готовит итоговый документ.
Ключевым архитектурным требованием здесь является явный контракт передачи, то есть следующий агент получает не «сырой» текст предыдущего, а структурированный артефакт (JSON с известной схемой).
Такой подход резко снижает каскадные ошибки.

Concurrent / Parallel (параллельные ветки)
Паттерн параллельных веток Concurrent / Parallel применяется, когда подзадачи независимы и задержка критична.
Классический пример из сферы закупок — это когда проверка бюджета в финансовой системе и проверка контрагента в комплаенс‑базе идут одновременно, а координатор ждёт оба результата.
Экономия времени здесь действительно большая, но появляется вопрос частичных отказов, то есть что делать, если одна ветка упала, а другая ответила успешно?
Ответ должен быть заложен в архитектуру заранее, например, политика «fail‑closed» для финансовых проверок.

Orchestrator‑Worker (Magentic)
И, наконец, самый мощный и дорогой паттерн Orchestrator‑Worker (Magentic).
В нём центральный агент‑менеджер динамически строит план под конкретную задачу и делегирует шаги воркерам, а затем по результатам корректирует план.
Он оправдан там, где структура процесса действительно непредсказуема, например при расследовании инцидента в ИТ‑инфраструктуре, где следующий шаг зависит от того, что показала предыдущая диагностика.
Но за всё это мы вынуждены платить высокую цену, расходуя кратно большее количество токенов.
И здесь правило применения данного паттерна будет простым: если 80% задач укладываются в фиксированный сценарий, Magentic не нужен.

Human‑in‑the‑Loop (HITL)
Human‑in‑the‑Loop (HITL), строго говоря, не является паттерном оркестрации. Это скорее архитектурная точка разрыва, когда выполнение приостанавливается, при этом состояние сохраняется, задача уходит человеку на утверждение и затем возобновляется.
Такие точки обязательны для таких необратимых действий, как платежи, отправка юридически значимых документов, удаление данных и так далее
Важно понимать, что HITL усложняет систему, так как появляется внешняя очередь ожидания, и здесь нужен механизм возобновления с сохранённым контекстом и аудит того, кто именно утвердил действие.

Принципы работы агентных циклов
Теперь давайте разберёмся с принципами работы агентных циклов.
Цикл формально описывается как политика в частично наблюдаемом марковском процессе, то есть агент не видит «истинное состояние» мира, а действует на основе своих наблюдений, таких как ответы инструментов, реплики пользователей и содержимое памяти.
Из этого можно сделать несколько практических выводов.
Прежде всего, качество самого решения зависит от качества выполненных наблюдений. Например, если инструмент возвращает размытую ошибку something went wrong, агент не сможет скорректироваться. Инструменты должны возвращать структурированные, информативные ответы.
Также любое действие агента является ставкой при неполной информации, поэтому архитектура обязана предусматривать проверку результата, а не слепо доверять следующему шагу.
Планирование и декомпозиция
Планирование представляет собой превращение бизнес‑цели («обработать возврат») в последовательность шагов.
Подход ReAct (чередование рассуждения и действия) хорошо работает на коротких горизонтах, но на длинных цепочках модель теряет нить.
Поэтому в архитектуру обычно закладывают явную фазу планирования, когда агент сначала формирует план в виде списка шагов, сохраняет его во внешнем состоянии и только потом исполняет.
План можно показать человеку, провалидировать по схеме и перестроить при отклонении.
Это принципиально отличается от «чистого» ReAct, где план существует только внутри рассуждения модели и исчезает вместе с контекстом.

Рефлексия и пороги качества
Рефлексия является механизмом, который позволяет автоматизации работать без постоянного участия человека.
После каждого значимого действия агент оценивает результат, например, достигнута ли подцель, достаточно ли уверенности и так далее
Здесь ключевым архитектурным элементом является так называемый порог уверенности и внешний валидатор.
Например, агент извлекает сумму и назначение платежа из заявки. После этого отдельный детерминированный валидатор проверяет, что:
-
сумма представляет собой число, не превышающее лимит;
-
назначение не содержит запрещённых формулировок.
Если агент оценивает свою уверенность в извлечении ниже порога (скажем, 0,8), он запускает дополнительный цикл, то есть запрашивает уточнение или обращается к другому источнику.
Если и это не помогло, то происходит эскалация человеку.
Без такого порога система будет либо молча ошибаться, либо эскалировать всё подряд.
Но здесь возникает отдельная проблема бесконечной рефлексии. Дело в том, что наш агент будет «улучшать» ответ, снова и снова его переписывая.
Поэтому у каждого цикла должен быть задокументирован критерий остановки, например:
-
достижение порога качества;
-
исчерпание лимита итераций (обычно 2–3);
-
получение явного отказа инструмента.
Управление памятью и контекстом
Теперь давайте поговорим об используемых ресурсах, и здесь самым дефицитным является контекстное окно. Причем, в мультиагентных сценариях оно расходуется ещё быстрее, так как каждый воркер тащит за собой историю.

На практике можно рассмотреть несколько архитектурных приёмов.
Первый приём — это компактизация, когда мы суммируем историю между шагами, а полные логи уходят в хранилище для аудита.
Ещё один полезный приём — это вынос состояния во внешнее хранилище (checkpointing). Здесь агент после каждого шага сохраняет своё состояние в БД, и при сбое процесс возобновляется с последней контрольной точки, а не с нуля.
И третий приём — это передача между агентами структурированных артефактов вместо сырых диалогов. В таком случае воркер получает ровно те данные, которые нужны ему для его шага.
Проектирование бизнес‑решения
Теперь давайте посмотрим, как на практике можно использовать описанные выше решения. В качестве примера мы возьмём сквозной процесс автоматизации обработки заявок на корпоративную закупку.
Он выглядит следующим образом: сегодня менеджер получает заявку по почте, вручную проверяет остаток бюджета в финансовой системе, сверяет контрагента с базой комплаенс, согласует с закупщиком и создаёт заказ в ERP.
Среднее время цикла — два дня, при этом большая часть времени уходит на ожидание, а не на работу.
Нашей бизнес‑целью является сокращение цикла до двух часов с сохранением полного аудита и контроля.
При этом:
-
финансовая система доступна только на чтение;
-
действия с деньгами требуют утверждения человека;
-
все шаги должны быть воспроизводимы при разборе инцидентов.
Для начала нам нужно выбрать паттерн и обосновать наш выбор.
Мы сразу отказываемся от одиночного агента, так как шаги разнородны по природе (финансы, комплаенс, создание заказа), у них разные права доступа и разные критерии успеха.
Смешивание их в одном агенте будет означать, что мы даём одному промпту и чтение бюджета, и запись заказа.
Для нашего примера лучшим паттерном будет Concurrent/Parallel.
У нас будет Агент‑Координатор, который примет заявку и извлечёт из неё ключевые поля.
Далее параллельно стартуют:
-
Агент‑Бюджет (запрос остатка в финансовой системе);
-
Агент‑Комплаенс (проверка контрагента по базе политик).
Если обе проверки «зелёные», управление передаётся Агенту‑Закупщику, который создаёт заказ в ERP.
Если хотя бы одна из проверок «красная», происходит срабатывание HITL, то есть заявка замирает в очереди на утверждение менеджером.
Такое разделение даёт нам изоляцию прав доступа по агентам и локализацию точек отказа.
Безопасность и отказоустойчивость
Ну и в завершение статьи давайте немного поговорим о безопасности решения.
Прежде всего, в нашей архитектуре мы обеспечиваем изоляцию прав.
Агент‑Бюджет имеет доступ только на чтение к финансовой системе, Агент‑Закупщик, в свою очередь, только на запись в таблицу заказов.
Ни один агент не обладает правами, выходящими за пределы его шага.
Второй важный момент — это валидация артефактов на стыках.
Здесь выход каждого агента проверяется по JSON‑схеме перед передачей следующему, плюс проверка на наличие персональных данных, которые не должны попадать в промпты.
И третье — это защита от каскадных ошибок, когда используются:
-
таймауты на каждый вызов инструмента;
-
политика «fail‑closed» для финансовых проверок (при неопределённости — не пропускать);
-
явный fallback на rule‑based логику при недоступности LLM, чтобы процесс не останавливался полностью.
Наши выводы
Мы рассмотрели различные виды паттернов оркестрации, отдельно отметив преимущества, недостатки, а также область применения каждого из них.
Неправильный выбор паттерна может привести как минимум к неэффективной работе всей системы, а в худшем случае — и к её компрометации.
Попутно мы коснулись моментов, связанных с порогами качества, рефлексией и другими параметрами, влияющими на эффективность работы моделей.
В качестве примера в статье было разобрано проектирование агентного цикла с точками контроля, позволяющее на практике понять варианты использования различных паттернов.
В целом важно понимать, что правильный выбор архитектуры агентного решения позволяет решать поставленные задачи с наименьшими затратами и максимальной эффективностью.

Если хотите не просто разобраться в отдельных инструментах, а научиться проектировать ИИ‑решения на уровне архитектуры, обратите внимание на курс «ИИ‑архитектор». Он поможет системно подойти к созданию ИИ‑систем и освоить необходимые для этого подходы.
А чтобы познакомиться с отдельными технологиями и разобраться в архитектурных решениях на практике, присоединяйтесь к бесплатным открытым урокам:
-
24 ноября в 20:00. «Архитектурные паттерны ИИ‑агентов: как проектировать автономные решения для бизнеса». Записаться.
-
17 декабря в 20:00. «Проектирование RAG‑систем: от базового пайплайна до продвинутых решений». Записаться.
Больше полезных вебинаров по разработке, архитектуре и ИИ ищите в дайджесте
Источник: habr.com