AI И НЕЙРОСЕТИ

Anthropic ускорила Claude Code, но не снизила счёт за токены

Anthropic сократила медианное время до первого токена в Claude Code примерно на 35%, но расход токенов при этом не меняется.

✍️ Редакция iTech News | 04.11.2026 | ⏱ 4 мин | Источник: The New Stack
🔮

Anthropic включила message threads Claude по умолчанию для большинства пользователей Claude Code и заявила о сокращении медианного времени до первого токена примерно на 35% в сессиях объёмом от 500 тыс. до 1 млн токенов. Для команд, которые гоняют кодовых агентов часами, это означает меньше ожидания ответа; для бюджета — без приятного сюрприза, потому что число обрабатываемых токенов остаётся прежним.

Функция также доступна в публичной бете Messages API, сообщает The New Stack. Она меняет не саму модель и не схему тарификации, а способ передачи контекста: клиенту больше не нужно пересылать всю историю диалога при каждом новом запросе. Anthropic временно хранит историю на своей стороне, а приложение отправляет только новые сообщения и ссылку на предыдущий ответ.

Меньше данных в сети, тот же контекст у модели

В обычной длинной сессии агент на каждом шаге прикладывает к запросу весь накопленный контекст: системный промпт, определения инструментов, результаты вызовов и предыдущие сообщения. Для Claude Code это быстро превращается в сотни обращений к API: агент читает файлы, правит код, запускает команды и добавляет результаты в историю. Чем длиннее история, тем больше данных клиент повторно загружает и тем дольше сервису требуется принять, проверить и токенизировать запрос до начала генерации.

Message threads Claude устраняют именно это повторное перемещение данных. Полный контекст отправляется при создании ветки, а затем Anthropic собирает историю у себя и передаёт её модели. Поэтому ускорение касается времени до первого токена, а не глубины анализа: Claude по-прежнему видит весь разговор на каждом ходе. Если в истории 500 тыс. токенов, модель продолжает обрабатывать эти 500 тыс. токенов — просто браузер, CLI или агентский сервис не возят их по сети снова и снова.

Отсюда и важная оговорка для тех, кто уже мысленно открыл калькулятор расходов. Меньший размер HTTP-запроса не равен меньшему числу токенов, которые обработала модель. Anthropic не заявляет о снижении стоимости через threads: токеновый счёт остаётся тем же. Экономить на обработке уже знакомого контекста можно отдельно — через существующее prompt caching, где повторно используемое содержимое учитывается по сниженным ставкам. Threads и кэширование решают разные задачи: первые сокращают задержку передачи, второе может повлиять на стоимость обработки.

Сценарий особенно понятен на computer-use агентах. CTO и сооснователь StackOne Гийом Лебедель смоделировал работу агента, который на каждом из 50 шагов добавляет скриншот размером 150 КБ. Без threads к 50-му запросу пришлось бы загрузить около 7,5 МБ накопленных изображений; с threads — только очередной снимок, примерно 0,15 МБ. За всю сессию объём передаваемых скриншотов в его расчёте падает приблизительно с 191 МБ до 7,5 МБ, то есть примерно в 25 раз. Это не результат боевого теста API, а иллюстрация масштаба проблемы при повторной отправке тяжёлого контекста.

Бета без права на долгий кофе

У новой механики есть практическое ограничение: ветка истекает через пять минут бездействия. Каждый успешный запрос продлевает это окно, поэтому непрерывно работающий агент способен держать одну ветку на протяжении долгой задачи. Но после паузы клиенту придётся создать новую ветку и снова передать полный контекст. SDK-помощник Anthropic может сделать это автоматически, если локально сохранил историю; при прямой работе с API истечение ветки нужно обрабатывать самостоятельно. Попытка продолжить недоступную ветку возвращает ошибку 404.

Для прямой интеграции в Messages API Anthropic добавила параметр thread: первый запрос создаёт ветку, следующие продолжают её через идентификатор предыдущего ответа. Пока функция находится в бете, требуется заголовок с версией message-threads-2026-08-12; SDK-помощник добавляет его сам и берёт на себя ведение истории. Message threads Claude доступны для всех моделей Claude в бете, в том числе через Claude Platform на AWS, Claude в Microsoft Foundry и управляемые Anthropic модели в Google Cloud.

Есть и ограничения для регулируемых сред. Содержимое веток шифруется и хранится в памяти серверов без записи в постоянное хранилище, однако после последнего использования данные могут оставаться в памяти до часа. Функция не поддерживает zero data retention и HIPAA, а часть возможностей управления контекстом, включая принудительное сжатие, пока недоступна. Для корпоративного внедрения это не второстепенная сноска, а пункт для проверки у security и compliance до включения флага в продакшене.

Эта бета хорошо показывает, куда движется инфраструктура агентских приложений: узким местом становятся не только цена и качество модели, но и транспорт огромного контекста между последовательными вызовами. Anthropic ускоряет этот участок без скидки на токены; следующий вопрос для разработчиков — оправдает ли выигрыш в задержке дополнительные требования к хранению истории и обработке истечения веток. Подробности реализации опубликованы у The New Stack.

Поделиться: Telegram X LinkedIn