Агентные процессы в корпоративных системах: где они помогают, а где нет

Что такое агент на самом деле

Построив и эксплуатируя агентные процессы в собственной ежедневной работе, мы занимаем конкретную позицию: агенты оправдывают себя на ограниченных задачах с определёнными инструментами, правами, наблюдаемостью и точками согласования — а детерминированный скрипт оказывается лучшим ответом чаще, чем признаёт рынок.

Под питчем агент — это цикл: модель читает контекст, выбирает среди выданных ей инструментов, действует, наблюдает результат и продолжает до условия остановки. В этом определении есть всё важное. Агент ровно настолько способен, насколько способны его инструменты, настолько безопасен, насколько ограничены его права, настолько надёжен, насколько определены его условия остановки, и настолько отлаживаем, насколько полны его трассировки.

Это не цифровой сотрудник. Сотрудника можно спросить, что произошло; агента без трассировок исполнения — нельзя. Сотрудник усваивает границы организации; у агента ровно те границы, которые кто-то настроил, и никаких других. Называя его сотрудником, организацию приглашают пропустить инженерию, которая делает его безопасным.

Тест соответствия

Четыре вопроса предсказывают, подходит ли процесс для агентного исполнения:

• Ограничена ли задача? Определённая работа с распознаваемым конечным состоянием — разобрать этот тикет, подготовить этот черновик, сверить эти записи. Открытые мандаты («улучшить нашу документацию») порождают открытое поведение.
• Явна ли поверхность инструментов? Действия, нужные агенту, должны быть перечислимы: читать эти системы, писать в эту, вызывать эти API. Если честный список инструментов — «что окажется нужным», процесс понят недостаточно, чтобы его автоматизировать — любым способом.
• Обратимы ли действия — или закрыты согласованием? Черновики, предложения и изменения в staging легко отменить. Платежи, удаления, отправки клиентам — нет; им нужен шаг согласования человеком, спроектированный внутри процесса, а не приделанный к нему.
• Дешевле ли проверка, чем исполнение? Агенты ценны, когда проверка результата занимает минуты, а его создание заняло бы часы. Когда проверка стоит столько же, сколько сама работа, — тонкие суждения, критичная корректность — агент не экономит ничего и добавляет режим отказа.

Процесс, проходящий все четыре, — кандидат. Если несколько критериев не выполняются, детерминированный процесс или ручная работа обычно безопаснее как точка старта.

Где они помогают

Паттерны, проходящие тест на практике, устойчивы: сортировка и маршрутизация — чтение входящих тикетов, классификация, обогащение контекстом из внутренних систем, маршрутизация с рекомендацией; черновики на проверку — документы, ответы, анализы, подготовленные для человека, который утверждает; поиск по многим системам — ответы на вопросы, доказательства которых разбросаны по репозиториям, вики и трекерам; и инженерные процессы — поддержка ревью, генерация тестов, поддержание документации, где результат в любом случае проверяется CI и ревьюерами.

Общая форма: агент делает работу обхода и сборки, поглощающую человеческие часы, а человек — или автоматическая проверка — владеет значимым решением.

Где они не помогают

Тот же тест отсеивает витринные сценарии: необратимые действия без согласований — всё, что касается денег, данных эксплуатации или клиентов, где шаг утверждения «замедляет демонстрацию»; слабая проверяемость — результаты, которые никто не может эффективно проверить, превращают автоматизацию в отложенный риск; критичные для соответствия пути — где «модель сегодня выбрала иначе» является замечанием аудита, детерминизм — требование, а не ограничение; и процессы, которые никто не может специфицировать, — агент не заменяет понимание процесса. Автоматизация процесса, который вы не можете описать, производит автоматизированное поведение, которое вы не можете предсказать.

Детерминированная альтернатива

Для неожиданно большой доли продаваемых сценариев честное архитектурное ревью заканчивается словами: это workflow-движок и две интеграции. Если шаги известны, ветвления перечислимы, а входы структурированы, детерминированный конвейер дешевле в постройке, как правило предсказуемее в эксплуатации и ведёт себя одинаково каждый раз — что предпочитают аудиторы, операторы и системы ниже по потоку.

Практический паттерн — гибрид: детерминированный конвейер для известного пути, агент для шага, действительно требующего чтения и суждения, — классификации неструктурированного входа, сборки контекста из разрозненных источников — и точки согласования там, где они встречаются. Модель — там, где вход неструктурирован; конвейер — там, где процесс известен.

Управление — это и есть архитектура

В корпоративном применении контроль — не надстройка над агентом ради соответствия, а сама архитектура агента: собственная учётная запись с минимальными привилегиями, никогда не одолженный личный токен; явный отзываемый контракт инструментов; трассировка каждого шага — что было прочитано, что вызвано, что вернулось; точки согласования там, где действия становятся значимыми; и владелец, который просматривает, что агент реально делает, и отвечает за это.

Агент с этими свойствами — инфраструктура. Без них это неаудируемый процесс с доступом к эксплуатации — не новая категория риска, а старая, под новым именем.

Отказы и восстановление

Многошаговые процессы отказывают на середине: инструмент не отвечает на седьмом шаге из двенадцати, модель возвращает нечто непригодное, внешняя система меняет форму. Рабочие агентные системы считают это нормальной эксплуатацией: сохраняют контрольные точки, чтобы процессы возобновлялись, а не начинались заново; делают шаги идемпотентными, чтобы повтор был безопасен; определяют эскалацию, чтобы застрявший процесс попадал к человеку; и следят за паттернами отказов — растущая частота повторов является ранним сигналом, что выше по потоку что-то изменилось.

Демонстрация никогда не показывает отказы на седьмом шаге. Эксплуатация из них состоит.

Смежная экспертиза

Корпоративные ИИ-системы и автоматизация →