Обычное «доброе утро» может заставить AI-агента сначала проверить долговременную память, а уже потом сформулировать ответ. Вопрос о том, нужны ли для таких переходов модели принятия решений на базе LLM, важен не только для исследователей: от него зависят задержка, стоимость и предсказуемость агентных систем, которые уже пытаются внедрять в продукты. Об этом сообщает The New Stack.
Формулировка кажется почти философской, но на практике она вполне инженерная. Агент — это не просто чат с подключёнными инструментами. Ему приходится выбирать, что сделать дальше: ответить сразу, вызвать поиск, достать запись из памяти, обратиться к API, передать задачу человеку или остановиться. Если на каждый такой выбор запускать большую языковую модель, система получает гибкость, но вместе с ней — лишние расходы и новую поверхность для ошибок.
Сам факт, что этот вопрос вынесен в заголовок материала The New Stack, хорошо описывает сдвиг в AI-инженерии. Рынок постепенно уходит от демонстраций, где агент эффектно выполняет один длинный сценарий, к более прозаичной проверке: сколько решений он принимает, почему выбрал именно их и можно ли повторить результат. В тестовой среде агент, который сначала вспоминает контекст перед приветствием, выглядит заботливым. В рабочем контуре такой же механизм может добавить ненужный вызов модели, задержку и непредсказуемую трактовку запроса.
У LLM есть очевидное преимущество: она умеет разбирать неструктурированные запросы и работать там, где заранее невозможно перечислить все ветки. Это полезно, когда пользователь пишет расплывчато, инструменты имеют сложные описания, а решение зависит от контекста диалога. Но «умеет рассуждать» не равно «должна принимать любое микрорешение». Проверить наличие обязательного поля, выбрать инструмент по известному типу данных, ограничить число повторов или не ходить в память без явной причины можно обычными правилами и кодом.
Для команд это означает необходимость разделить два слоя. Первый — детерминированный: права доступа, лимиты, валидация входных данных, маршрутизация понятных сценариев, обработка ошибок. Второй — вероятностный: разбор намерения, составление плана в неоднозначной задаче, выбор из нескольких содержательно близких действий. Модели принятия решений в таком устройстве не исчезают, но LLM становится одним из компонентов, а не диспетчером, которому безоговорочно отдана каждая развилка.
Такой подход особенно важен для корпоративных внедрений. IT-директору мало услышать, что агент «сам разберётся»: нужны понятные границы полномочий, журнал действий и возможность объяснить, почему система открыла базу знаний или вызвала внешний сервис. Разработчикам это добавляет работы по проектированию состояний и наблюдаемости, зато упрощает отладку. Продактам — помогает честнее считать экономику: стоимость агентной функции определяется не только ценой одного ответа, но и числом промежуточных обращений к модели и инструментам.
Не менее важна и безопасность. Чем чаще LLM решает, какой инструмент запускать следующим, тем тщательнее нужно ограничивать доступные действия и проверять параметры вызова. Промпт-инъекция, случайно попавшая в документ или сообщение, опасна не потому, что модель способна написать странный текст. Риск возникает в момент, когда этот текст влияет на выбор действия. Жёсткие правила на критических переходах — не отказ от агентности, а способ не превращать автономность в непроверяемую магию.
Для русскоязычных команд, которые собирают помощников поверх внутренних баз знаний, CRM и трекеров задач, разумная отправная точка проста: сначала описать конечный автомат и разрешённые переходы, а затем оставить LLM только там, где правила действительно не покрывают входные данные. Это также позволяет измерять, какие решения агент принимает полезно, а какие лишь создают впечатление интеллекта. Хороший агент не обязан долго думать перед каждым «привет».
Следующая конкуренция в агентных платформах, вероятно, будет идти не только за качество модели, но и за качество оркестрации вокруг неё. Вопрос уже не в том, способна ли LLM выбрать следующий шаг, а в том, какие из этих шагов вообще стоит доверять вероятностному компоненту. Чем точнее команда проведёт эту границу, тем практичнее окажутся её модели принятия решений.
