Asana заявила, что снизила стоимость ИИ-агента в браузере минимум в 29 раз, не меняя исходную модель: оценка одного запуска упала с $36,21 до $1,24. Для команд, которые строят агентов поверх сайтов, CRM и веб-форм, это важнее очередного сравнения моделей: крупная статья расходов может скрываться не в «слабом ИИ», а в том, как приложение собирает и меняет контекст.
Речь идёт о браузерном агенте в платформе StackAI, автоматизирующем действия на сайтах и заполнение веб-форм. Как сообщает Habr / Новости, команда Asana 8 октября описала результаты эксперимента с историей запросов, скриншотами и политикой очистки контекста. Самая громкая цифра в 76 раз относится уже к сравнению исходной конфигурации на анонимизированной модели B с оптимизированной конфигурацией на GPT-6.1 Sol; это не эффект одной настройки на одной и той же модели.
Проблема возникала на каждом следующем шаге агента. Системные инструкции и описания инструментов оставались в кэше, но накопленная история посещённых страниц и скриншотов постоянно менялась. Из-за этого менялось начало нового запроса к модели, и провайдер не мог повторно использовать значительную часть уже обработанного префикса. В результате история, которую агент уже «видел», снова тарифицировалась как свежий входной текст. Параллельно частая обрезка контекста могла вынуждать агента повторно открывать страницы и заново собирать сведения.
Инженеры не искали магическую замену модели, а перестроили жизненный цикл истории. Они начали кэшировать саму историю, увеличили лимит сохраняемого текста со 120 тыс. до 480 тыс. символов и отказались от удаления скриншотов по одному. Вместо этого снимки удаляются пакетно: в одной из протестированных политик агент накапливал до 20 изображений, после чего оставлял только последнее. Между такими очистками большая часть начала запроса не меняется, а значит, лучше попадает в кэш.
На модели B эта правка сократила оценочные расходы с $36,21 до $1,24 за задачу. В оптимизированной конфигурации на GPT-6.1 Sol средняя оценка составила $0,47, а выполнение занимало около четырёх минут. Именно сравнение $36,21 и $0,47 даёт заявленные 76 раз, а сопоставление длительности — примерно пятикратное ускорение. Для самой Sol пересмотр политики кэша и работы со скриншотами при увеличенном бюджете снизил расходы примерно в четыре раза. Цифры выглядят менее рекламно, но для инженеров они полезнее: архитектура контекста дала заметный эффект даже без смены поставщика модели.
Эксперимент был небольшим. Авторы провели 144 основных и 12 дополнительных запуска на четырёх моделях. Каждая конфигурация решала одну практическую задачу: собрать шесть полей о 32 книгах из демонстрационного каталога; обычно сценарий повторяли трижды. Это не независимый отраслевой бенчмарк и не основание ожидать, что любая стоимость ИИ-агента автоматически сократится в 76 раз. Результат зависит от длины истории, цены входных токенов, поведения конкретного поставщика и того, насколько стабилен префикс запросов между шагами.
Для разработчиков вывод довольно приземлённый. Перед миграцией на более дешёвую или более мощную модель стоит разложить цену завершённой задачи на составляющие: системный промпт, описания инструментов, историю действий, изображения, повторные обращения к сайту и долю кэшированных токенов. Если агент на каждом ходе пересобирает контекст или сдвигает его начало, скидка за кэш почти исчезает. Если же очистка происходит предсказуемыми пакетами, а неизменяемые данные остаются в одном префиксе, экономия появляется без переписывания бизнес-логики.
Для продактов и руководителей здесь есть ещё одна неприятная, но полезная мысль: цену нельзя оценивать только по тарифу модели за миллион токенов. В браузерном агенте итоговую стоимость ИИ-агента формируют и оркестрация, и правила хранения артефактов, и количество неудачных повторов. По мере того как агенты переходят от демонстраций к рутинным операциям с десятками шагов, борьба за стабильный кэш может оказаться не менее важной, чем выбор следующей модели в бенчмарке.