АНАЛИТИКА

Дешевые токены не спасают: считать нужно цену AI-задачи

Sonnet 5 оказался дороже Opus 4.8 на задачу: $2,09 против $1,94. Databricks показала, почему цена токена больше не годится для выбора AI-модели.

✍️ Редакция iTech News | 14.07.2026 | ⏱ 5 мин | Источник: The Register
💰

У моделей с дешевыми токенами обнаружилась неприятная привычка: они могут обходиться дороже в реальной работе. Databricks посчитала не прайс за миллион токенов, а цену AI-задачи, и получила результат, который полезно запомнить любому, кто выбирает модель для кодинга, саппорта или внутренних агентов: более дорогая модель на бумаге иногда выходит дешевле в проде.

Компания проверила это на внутреннем бенчмарке для программирования, собранном из реальных инженерных задач, сообщает The Register. Повод понятный: стандартные тесты вроде SWE-Bench в индустрии уже давно научились «оптимизировать под табличку», а не под живую работу. По словам CTO Databricks Матея Захарии, модели и их обвязка слишком часто оценивают по цене токена и сухому score в публичном бенчмарке, хотя бизнес платит совсем за другое: за выполненную задачу, время команды и объем лишних прогонов.

Внутри Databricks сравнили несколько моделей и агентных оболочек, которые передают запрос модели, вызывают инструменты и собирают ответ. Один из самых показательных примеров касается линейки Anthropic. Sonnet 5 была примерно в 1,7 раза дешевле Opus 4.8 по цене токена, но на уровне конкретной задачи вышло наоборот: $2,09 за задачу у Sonnet 5 против $1,94 у Opus 4.8. Причина приземленная и очень знакомая любой команде, которая уже пробовала всерьез внедрять AI-кодинг: Sonnet 5 реже доводила задачу до успешного завершения и при этом тратила больше токенов. Уровень completion составил 81% против 87% у Opus 4.8. Иными словами, экономия на входе легко сгорает на повторных итерациях, уточнениях и лишнем контексте.

Еще один вывод бьет по популярной логике «берем open-weight модель, потому что она точно дешевле». В отчете Databricks говорится, что открытая модель Z.ai GLM 5.2 оказалась конкурентоспособной рядом с frontier-моделями. По качеству она статистически сравнялась с Opus 4.8, но стоила $1,28 за задачу против $1,94 у Opus. Для бизнеса здесь важен не идеологический спор между open и closed, а простой вывод: выбирать модель по прайсу API без теста на собственной задаче уже выглядит как закупка серверов по цвету корпуса. В лучшем случае промахнетесь по бюджету, в худшем еще и по качеству.

Почему считать по токенам уже недостаточно

Тезис про цену AI-задачи не появился из воздуха. The Register приводит и академический контекст: еще в марте исследователи отмечали, что примерно в трети сравнений модель с более низкой объявленной ценой на деле обходилась дороже. Самый наглядный пример из этой группы: Gemini 3 Flash по прайсу была на 80% дешевле GPT-5.4, но фактическая стоимость по совокупности задач оказалась на 38% выше. Для закупок, FinOps и продуктовых команд это неприятная новость, потому что привычная табличка «цена за миллион входных и выходных токенов» перестает быть надежной основой для выбора. Она показывает тариф, но не показывает, сколько попыток понадобится до рабочего результата.

И здесь проблема не ограничивается самими моделями. Databricks отдельно подчеркивает роль harness — агентной прослойки вроде Claude Code, OpenAI Codex или Pi, которая решает, какой контекст отправить, когда вызвать инструмент и как вести многошаговый диалог. В нормальной эксплуатации именно эта прослойка часто превращает аккуратную экономику в печку для токенов. Захария приводит прямой пример: у Opus 4.8 простой harness Pi дал такую же долю успешных задач, как и агентные оболочки от вендоров LLM, но при этом оказался примерно вдвое дешевле. Не потому, что «магически умнее», а потому что жадничал на контекст куда разумнее.

Цифры там показательные. Когда Opus 4.8 работала через Claude Code, Databricks насчитала около 742 тысяч токенов контекста на задачу. У Pi для той же модели получилось 236 999 токенов — примерно в 3,2 раза меньше. С Codex разница тоже заметная: 1 235 000 токенов суммарного контекста на задачу против 665 тысяч у Pi. Для разработчика это означает очевидную вещь: два агента на одной и той же модели — это не одна и та же себестоимость. Для CTO и руководителя платформенной команды вывод еще неприятнее: иногда вы сравниваете не модели, а качество инженерии вокруг модели, только не всегда это замечаете.

Что это меняет для команд, которые уже внедряют AI

Практический смысл у этой истории довольно жесткий. Если ваша команда выбирает AI-инструменты для кодогенерации, анализа инцидентов, поиска по внутренней базе знаний или автоматизации саппорта, вам нужен не прайс-лист вендора, а собственный набор задач с метриками завершения. Считать придется как минимум четыре вещи: успешность выполнения, среднее число итераций до результата, общий расход токенов на задачу и стоимость harness поверх модели. Иначе можно получить красивую презентацию про «экономию 40% на токенах», после которой инженеры будут молча сжигать этот выигрыш в бесконечных повторных прогонах.

Отсюда же понятен интерес Databricks к Omnigent — это их инструмент, который выступает оболочкой над разными агентами и позволяет комбинировать или переключать их. По сути, идея напоминает то, что OpenRouter сделал на уровне выбора моделей, только здесь речь про уровень выше: не просто подменить LLM, а подменить саму агентную механику. Для корпоративного рынка это, возможно, даже важнее. В 2026 году все уже поняли, что «одна лучшая модель на все случаи» не существует. Следующий слой конкуренции идет за то, кто лучше маршрутизирует задачи, экономнее собирает контекст и реже гоняет модель по кругу.

Для русскоязычного IT-рынка из этого следует вполне рабочий вывод. При закупке AI-сервисов и пилотах для внутренней разработки нужно перестать спорить только о цене токена и лицензии. Разговор должен начинаться с вопроса: сколько стоит завершенная задача на нашем коде, в наших процессах и с нашей агентной обвязкой. Иначе дешевый входной билет быстро превращается в дорогую эксплуатацию. Проверить исходные цифры и формулировки можно в материале The Register.

Поделиться: Telegram X LinkedIn