LLM отлично пишут код, пересказывают документацию и уверенно рассуждают о мире. Но предсказание намерений у них, похоже, не идет по умолчанию. В подкасте Stack Overflow 30 июня 2026 года CTO Yobi Фрэнк Портман объяснил: модель, натренированная на следующем токене, не обязана хорошо предсказывать человеческое поведение, а значит и решения в рекламе, маркетинге или рекомендациях.
Yobi, как пишет Stack Overflow Blog, строит не очередной чат-бот, а так называемую foundation model of behavior, то есть базовую модель поведения. Портман формулирует тезис довольно жестко: индуктивное смещение LLM хорошо подходит для языка, но не для прогнозирования под неопределенностью. Иными словами, если модель училась продолжать текст, это еще не делает ее хорошим инструментом для ответа на вопрос, что пользователь сделает дальше, какую рекламу ему показать или сколько денег бизнесу стоит потратить на маркетинг прямо сейчас.
На уровне архитектуры Yobi не уходит в экзотику ради экзотики. В стеке компании есть крупные трансформеры, но рядом с ними работают и графовые модели, включая варианты graph neural networks. Причина понятная любому, кто хоть раз сталкивался с рекомендательными системами: поведение пользователя не сводится к словам. Есть анонимные идентификаторы, сессии, сайты, события, цепочки действий, и все это нужно как-то связывать между собой, не развалив при этом приватность. Портман отдельно подчеркивает, что данные для такой системы проприетарные, чувствительные и нередко привязаны хотя бы к анонимному ID. Поэтому задача здесь не в том, чтобы завернуть все в красивый чат-интерфейс, а в том, чтобы получить представление, которое действительно предсказывает будущее поведение.
Ключевая претензия к LLM у Yobi не в скорости и не в моде на чат. Скорость, по словам Портмана, можно даже временно вынести за скобки. Проблема глубже: языковая модель подбирает наиболее вероятное продолжение последовательности, а система персонализации должна оценивать ожидаемую ценность действия. Это уже не про удачное следующее слово и даже не про удачный function name. Это про выбор лучшего решения в конкретном контексте, где важны вероятность, expected value и сигнал из специализированных данных. Если упростить, LLM может неплохо объяснить, чем McDonald’s похож на Burger King, но из этого еще не следует, что она знает, какую именно креативную вставку стоит показать конкретному пользователю на конкретной странице и окупится ли это решение.
Отсюда и еще один важный технический нюанс: в языке базовых единиц относительно немного, речь идет о сотнях тысяч токенов. В поведении, по оценке Портмана, сущностей на несколько порядков больше. Для разработчиков рекомендательных систем это знакомая боль: новые пользователи, новые узлы, новые связи и высокая кардинальность признаков. В интервью он различает inductive и transductive-подходы. Для пользовательской стороны Yobi старается делать архитектуры индуктивными, чтобы модель могла вменяемо работать с новыми узлами и не рассыпалась при появлении свежих паттернов. На стороне самих поведенческих действий компания пока признает более ограниченную, частично transductive-схему и добавление новых поведений отдельным процессом. Это звучит менее глянцево, чем презентации про «универсальный интеллект», зато честнее и ближе к реальной эксплуатации.
Экономика у этой истории тоже вполне земная. По словам CTO, текущий продукт Yobi обслуживает миллионы и миллионы запросов в секунду, принимая решения о персонализации и показе рекламы в реальном времени. На таком масштабе уже не спрячешься за демо с красивым промптом. Приходится думать о предвычислении, embedding lookup tables, очередях, батчинге и запасных эвристиках на случай, если система не укладывается в latency budget. Портман довольно спокойно признает, что индустрия до сих пор во многом живет на «стене из if-ов», и это не всегда глупо. Но сопровождать такую стену со временем становится дороже, чем обучать модель, особенно если команда сильнее в ML, чем в накоплении техдолга из правил и исключений.
Для рынка это звучит как холодный душ после хайпа вокруг агентных систем. Портман не спорит, что агенты уже приносят деньги в кодинге и в формате «LLM в кармане». Но он считает, что многие из этих сценариев не требуют тяжелого decision-making. Агенту легко открыть календарь или помочь написать функцию, потому что пользователь более-менее сказал, что делать. Гораздо сложнее спросить у него: сколько потратить на маркетинг сегодня, что рекомендовать этому сегменту клиентов или как оценить риск мошенничества. Здесь предсказание намерений упирается не в разговорчивость модели, а в специализированные веса, доменные данные и инфраструктуру принятия решений.
Для русскоязычной IT-аудитории здесь есть вполне прикладной вывод. Если вы строите продукт с персонализацией, рекомендательной лентой, антифродом, adtech- или martech-компонентом, тезис «давайте просто прикрутим LLM» становится все менее убедительным. Скорее всего, рабочая схема будет гибридной: LLM для интерфейса, синтеза и оркестрации, а специализированные модели для прогноза, скоринга и real-time decisioning. Особенно если речь идет о чувствительных пользовательских данных. В этом месте Yobi делает ставку не только на модель, но и на privacy-preserving machine learning: от дифференциальной приватности до более академических подходов вроде homomorphic machine learning. Пока это звучит как направление исследований, а не готовая коробка, но тренд уже виден: у компаний, которые хотят работать с поведенческими данными, скоро будут спрашивать не только про качество модели, но и про математически внятную приватность.
Главный вопрос теперь не в том, заменят ли LLM все остальные модели, а в том, где заканчивается их компетенция и начинается необходимость в более узком, но честном инженерном инструменте. Для задач, где нужно красиво говорить, чат-LLM пока вне конкуренции. Для задач, где нужно принимать решение под давлением данных, задержки и экономики, одной разговорчивости мало. Подробности и прямые цитаты из интервью можно посмотреть в .