Разрыв контекста становится узким местом для ИИ-агентов: сами модели становятся сильнее, токены дешевеют, а агентные сценарии выходят из лабораторий в корпоративные процессы. Но агенту недостаточно уметь рассуждать — ему нужно видеть актуальные данные, помнить ход работы и понимать, какие инструменты доступны. Для российских команд это означает, что следующий bottleneck в проектах с ИИ будет не только в выборе модели, а в устройстве данных, поиска и прав доступа.
На эту проблему обращает внимание The New Stack. Суть проста, хотя в реализации всё заметно менее проста: языковая модель отвечает лишь на основе того контекста, который ей передали в конкретный момент. Корпоративные знания при этом обычно разбросаны по трекерам задач, репозиториям, документации, базам данных, чатам и внутренним сервисам. Агент может быть способен написать код или составить план, но без нужных фактов он уверенно продолжит работу с неполной картиной.
Это не та проблема, которую решает простое расширение контекстного окна. Большой контекст полезен, когда нужно прочесть длинный документ или удержать историю диалога. Однако в реальном продукте данные постоянно меняются: задача в трекере закрывается, политика доступа обновляется, релиз переносится, а нужная версия спецификации оказывается не в папке «финал», а в комментарии к ней. Если загрузить в модель всё подряд, возрастут стоимость и задержка ответа, а вместе с ними — шанс, что важный сигнал утонет в массиве старой информации.
Поэтому разрыв контекста — это разрыв между знаниями, которыми располагает организация, и знаниями, доступными агенту при выполнении конкретного действия. Он проявляется не только в качестве ответов. Агент может выбрать не тот инструмент, использовать устаревший документ, пропустить ограничение безопасности или попросить человека уточнить то, что уже есть в корпоративной системе. На демо такие ошибки легко скрыть: набор данных маленький, сценарий заранее известен, доступы широкие. В рабочем контуре они быстро превращаются в стоимость поддержки и недоверие пользователей.
Тренд особенно важен для команд, которые строят не чат-бота для поиска по базе знаний, а систему с действиями: создать тикет, подготовить отчёт, изменить конфигурацию, сформировать коммерческое предложение или предложить патч. Чем больше инструментов подключено к агенту, тем сложнее ответить на базовые вопросы: какие данные ему нужны сейчас, откуда они взялись, насколько они свежие и имеет ли пользователь право их видеть. Ошибка в ответе неприятна; ошибка в действии требует уже другого уровня контроля.
Практический вывод для разработчиков — относиться к контексту как к отдельному слою архитектуры, а не как к длинной строке в запросе к модели. Нужны понятные источники истины, метаданные о свежести и владельцах документов, поиск с фильтрацией по правам, журналирование вызовов инструментов и проверяемые сценарии оценки качества. Retrieval-augmented generation, векторный поиск и интеграции с корпоративными системами могут помочь, но сами по себе не гарантируют, что агент получил именно релевантный и разрешённый контекст.
Для продактов это меняет и метрики. Одной оценки «ответ похож на полезный» недостаточно. Стоит измерять, какие источники использовал агент, сколько раз он запросил уточнение, как часто обращался к устаревшим данным, сколько действий потребовало ручной отмены и в каких сценариях он должен был отказаться от выполнения задачи. Хорошая агентная система иногда отвечает «не знаю» или передаёт работу человеку — и это признак корректно выстроенных границ, а не обязательно слабой модели.
Бизнесу также придётся выбирать процессы, где цена ошибки соразмерна зрелости контекстного слоя. Начинать разумнее с задач, в которых агент предлагает результат, а человек утверждает его, либо действует в ограниченной песочнице. Автономность можно наращивать после того, как команда разобралась с источниками данных, доступами и наблюдаемостью. Иначе экономия на первом прототипе вернётся расходами на исключения, ручные проверки и разбор инцидентов.
Гонка моделей не отменяет эту инженерную работу. Чем доступнее становятся сильные модели, тем заметнее разрыв контекста: интеллект без своевременных и проверяемых данных плохо масштабируется. В ближайших агентных продуктах конкурировать будут не только качество рассуждений и цена токена, но и способность безопасно собрать для каждого действия ровно тот контекст, который нужен — без цифрового склада, вываленного в один промпт.
