Не стройте ИИ-агента там, где достаточно скрипта
|
Денис Ермилов
Заместитель директора по работе со стратегическими клиентами компании «Синимекс»
Представим: в заявке на проект написано корпоративный ИИ-агент для разбора претензий. Но внутри одной претензии — несколько задач: прочитать письмо, найти заказ, сверить документы, обнаружить расхождение, запросить недостающие сведения и решить, что делать дальше. Не каждой из них нужна одинаковая технология и самостоятельность агента.
|
Клиент пишет, что получил заказ не полностью. Если номер заказа, позиции и количество уже есть в структурированном виде, их можно сопоставить по заданным правилам. Для этой части достаточно обычного кода или интеграции.
Само письмо устроено иначе. Клиент может описать товар своими словами, приложить переписку или не указать часть сведений. Здесь языковая модель может извлечь нужные данные, показать фрагменты-основания и оставить незаполненным то, чего в письме нет.
Если номер заказа отсутствует, система может запросить его по заранее заданному правилу.
Неизвестный номер заказа — ещё не неизвестный порядок действий.
Хороший пример такого подхода — разделение задач между моделями и более простыми инструментами в автоматизации клиентских обращений в одном из крупных банков. Для подготовки структурированного резюме использовали LLM. Чувствительные данные — ФИО, даты, суммы, номера счетов — обезличивали регулярными выражениями вместе с Natasha, библиотекой для обработки русского текста. Для этой подзадачи не понадобилась более тяжёлая трансформерная модель: снизились требования к памяти и выросла скорость сервиса.
Принцип здесь важнее инструментов: если LLM полезна на одном шаге, это не означает, что она нужна на остальных.
Когда появляется основание для ИИ-агента
В инженерном руководстве Anthropic проводят полезную границу. В обычном автоматизированном сценарии модель и инструменты идут по заранее заданному маршруту. В агентной системе модель сама определяет следующий шаг и выбирает инструмент.
Anthropic рекомендует начинать с простого решения и добавлять сложность там, где она улучшает результат. Агентный подход полезнее в задачах, где последовательность шагов трудно заранее зафиксировать. Цена гибкости — дополнительные затраты, задержка и риск накопления ошибок.
Поэтому главный вопрос — не сколько шагов в задаче, а кто выбирает следующий шаг.
Вернёмся к претензии. Склад утверждает, что заказ отгружен полностью, у перевозчика часть сведений отсутствует, а клиент описывает содержимое иначе, чем оно указано в системе.
Может потребоваться проверить накладную, найти подтверждение передачи перевозчику, поднять переписку или запросить данные у клиента. Следующее действие зависит от результата предыдущего. Здесь есть основание проверить агентный подход.
Но если ситуации укладываются в несколько устойчивых веток, обычная автоматизация останется проще и предсказуемее.
Самостоятельность нужно ограничивать поручением
Допустим, корпоративный ИИ-агент лучше собирает материалы по сложной претензии. Это ещё не повод передавать ему решение о компенсации.
Поручение можно ограничить: найти документы, показать расхождения, указать источники, определить, каких сведений не хватает, и сформировать пакет для сотрудника. Решение, которое влияет на деньги или обязательства перед клиентом, остаётся за человеком.
Способность системы разобраться в информации ещё не означает, что ей нужно передавать право принять бизнес-решение. Заранее стоит определить готовый результат, допустимые действия и ситуации, в которых система должна остановиться и передать работу человеку.
Скрипт тоже имеет стоимость
Если появляются десятки типов претензий, новые источники и исключения, скрипт приходится постоянно расширять и тестировать.
Сравнивать стоит стоимость разработки и сопровождения, частоту изменения правил, объём ручной проверки, качество результата и последствия ошибок.
Гибкость агента имеет смысл, когда самостоятельный выбор следующего действия даёт выигрыш в качестве или затратах, который оправдывает усложнение.
Как проверить идею до большого проекта
Я бы начинал с узкого поручения: «система собирает материалы по обращению, показывает расхождения и указывает источники».
Для проверки нужны реальные случаи: обычные обращения, письма с пропусками, противоречивые документы и задачи за пределами поручения. Смотрим, нашла ли система существенные сведения, можно ли проверить их происхождение, не придумала ли отсутствующее и сколько исправлений потребовалось сотруднику.
Если модель не справляется с таким поручением, расширять её самостоятельность рано.
Необязательно последовательно строить скрипт, решение с моделью и затем агента. Правильнее сравнить обоснованные варианты и понять, что именно даёт дополнительная сложность.
В компании «Синимекс» мы разделяем два решения: какую работу стоит поручить системе и какая технология лучше подходит для этой работы.
Если приемлемое качество даёт более простая архитектура, усложнять её ради самого слова «агент» нет смысла.
В техническом задании должно быть понятно, какие решения система должна принимать самостоятельно и почему фиксированного порядка действий недостаточно.
Если таких решений нельзя назвать, вероятно, агент появился в архитектуре раньше, чем потребность в нём.
Следующая статья цикла «Когда ИИ окупается» — о том, какие инициативы стоит остановить ещё до пилота.