AI И НЕЙРОСЕТИ

Новой узкой горлышкой ИИ становится retrieval engineering

21 июля 2026 года The New Stack зафиксировал новый сдвиг: bottleneck в ИИ смещается от модели к retrieval engineering и качеству контекста.

✍️ Редакция iTech News | 22.07.2026 | ⏱ 5 мин | Источник: The New Stack
🎯

21 июля 2026 года The New Stack выпустил материал с прямым вопросом: не становится ли retrieval engineering новой узкой горлышкой для ИИ-продуктов. Для русскоязычных команд, которые уже встраивают AI-поиск, чат-интерфейсы и агентные сценарии в корпоративные сервисы, это сигнал неприятно практичный: проблема все чаще не в том, какой LLM подключен, а в том, что именно ему подсовывают на вход.

Автор текста Тим Янг, как пишет The New Stack, описывает сдвиг, который уже хорошо знаком командам, пережившим первую волну RAG-энтузиазма. Публичные AI-ассистенты стали настолько привычными, что вендоры софта массово добавляют в свои продукты AI-поиск, разговорные интерфейсы и агентов. Особенно выигрышно здесь выглядят компании, которые работают с проприетарными данными: финансовой аналитикой, юридическими базами, научными публикациями, рыночной информацией и другими источниками, где важны доверие к данным, актуальность и проверяемость. Но именно в этих сценариях быстро выясняется: красивый чат поверх плохого retrieval не делает продукт умнее, он делает ошибку убедительнее.

Ключевая мысль материала проста и неприятна для тех, кто надеялся закрыть вопрос одной векторной базой. Раньше поисковая инфраструктура в основном помогала человеку найти релевантный документ, а дальше человек сам разбирался, что с ним делать. Теперь retrieval все чаще не показывает документы пользователю, а собирает контекст для модели или агента, который должен сам рассуждать, принимать решения и выполнять действия. В этой схеме любая ошибка на слое выборки бьет уже не по удобству поиска, а по конечному ответу системы. Янг прямо формулирует развилку: prompt engineering влияет на то, как модель думает, а retrieval engineering определяет, о чем именно ей вообще есть чем думать.

Отсюда и новая постановка задачи. По версии автора, инженерная работа смещается с оптимизации отдельных технологий на оптимизацию всего retrieval-workflow. Речь уже не о том, чтобы просто вытащить «самые похожие» документы, а о том, чтобы грамотно скоординировать извлечение, ранжирование, фильтрацию, инференс и обновление данных в реальном времени. И это не академическая тонкость: в материале отмечается, что один пользовательский запрос в современных AI-сценариях может запускать десятки, а иногда и сотни операций retrieval, прежде чем система вообще сформирует ответ. Когда таких запросов много, романтика «сейчас склеим несколько сервисов» быстро заканчивается в графиках задержки и счетах за инфраструктуру.

Отдельно Янг спорит с популярным упрощением, будто вся проблема сводится к vector search. Да, векторные базы решили важную задачу и сделали семантический поиск практически применимым в проде. Но в production-системах этого мало. Реальные AI-приложения комбинируют векторное сходство с keyword search, структурными фильтрами, бизнес-правилами, персонализацией, ML-ранжированием и инференсом на лету. То есть bottleneck лежит уже не в выборе «лучшей» retrieval-технологии как таковой, а в том, как собрать из этих частей архитектуру, которая одновременно точна, быстра, свежа по данным и не сжигает бюджет. На бумаге это выглядит как зрелая модульность. В эксплуатации это часто выглядит как еще один сетевой hop, еще одна зависимость и еще несколько десятков миллисекунд, которые агент очень уверенно потратит не туда.

На этом фоне в тексте появляется и рыночный тезис: индустрия постепенно движется от набора компонентов к платформенному подходу. Автор называет это появлением AI Search Platforms, где retrieval, ranking, inference и serving выполняются внутри одной распределенной архитектуры, а не сшиваются из независимых сервисов. Здесь важно не путать наблюдение с нейтральной аналитикой: материал помечен как sponsored post, а сам Янг связан с Vespa.ai. Но даже с поправкой на источник тезис звучит знакомо для любого техлида, который уже пытался совместить отдельную векторную базу, классический поисковый движок, reranker, правила доступа, персонализацию и агентный оркестратор. Рано или поздно команда перестает обсуждать качество эмбеддингов и начинает обсуждать, почему ответ снова приехал слишком поздно, не из того индекса и без нужного фильтра по свежести.

Для разработчиков и продуктовых команд здесь несколько довольно трезвых выводов. Первый: качество AI-функции теперь определяется не только моделью и не столько интерфейсом, сколько контекстным конвейером. Второй: в чувствительных доменах вроде права, финансов, B2B-аналитики и enterprise knowledge bases retrieval engineering становится не nice-to-have, а частью базовой надежности продукта. Третий: метрики тоже придется пересобирать. Одного recall по фрагментам или offline-оценки релевантности уже недостаточно, если агент принимает решение на основе каскада запросов, фильтров и переранжирования. Нужны сквозные метрики по latency, freshness, trust, стоимости запроса и влиянию на итоговый ответ. Иначе можно долго спорить о модели, пока настоящая причина деградации сидит в порядке вызова retrieval-компонентов.

Для бизнеса картина не менее конкретная. Если раньше конкурентным преимуществом считались более мощная LLM или более точные embeddings, то теперь ставка смещается к способности стабильно доставлять модели проверенный и своевременный контекст в масштабе. Особенно это касается компаний, у которых ценность продукта строится вокруг собственных данных, а не вокруг общего доступа к модели, доступной всем по API. В таком мире retrieval engineering становится не внутренней технической дисциплиной для команды поиска, а частью продуктовой стратегии. Проще говоря, следующий раунд конкуренции в AI-платформах может пройти не между теми, у кого «самый умный» чат, а между теми, у кого он реже галлюцинирует на дорогих для бизнеса сценариях.

Главный вопрос теперь звучит не «какую модель подключить», а «какую архитектуру контекста выдержит ваш продукт, когда пользователи перестанут просто задавать вопросы и начнут делегировать системе работу». Если этот сдвиг действительно закрепится, retrieval engineering быстро перейдет из категории модного термина в список вещей, за которые CTO спрашивает уже не исследовательскую команду, а тех, кто отвечает за прод, SLA и выручку.

Поделиться: Telegram X LinkedIn