Anthropic меняет свое ценообразование на инструменты AI — от фиксированной ставки к оплате за токены. Такой подход может лучше отражать реальное использование технологий, что особенно важно на фоне завышенных ожиданий по спросу на AI.
Текущая ситуация на рынке AI
На бумаге спрос на AI кажется впечатляющим, но реальные показатели потребления токенов показывают искажение метрик. Токены — это основные единицы использования AI, и их рост в потреблении не обязательно говорит о росте производительности. Например, взаимодействие с AI может потребовать сотни токенов за абзац, а более сложные модели, пишущие код или выполняющие многократные задачи, могут использовать тысячи токенов за сессию.
Легендарный CEO Nvidia Дженсен Хуанг высказался по поводу метрики: «Я был бы глубоко обеспокоен, если бы инженер с годовым окладом $500,000 не использовал бы хотя бы $250,000 на вычисления». Это вызвало вопросы о том, как компании измеряют результативность использования AI.
Новый подход Anthropic
Anthropic не просто наблюдает за ситуацией, а активно адаптируется к ней. CEO Дарио Амодеи отметил, что компания использует так называемую «конус неопределенности» в своих прогнозах. Строить датацентры стоит миллиарды, и если спрос окажется ниже ожиданий, это может стать катастрофичным для бизнеса. Новая модель — переработка системы ценообразования на основе потребленных токенов даёт более реальную картину доходов.
Например, стоимость одного миллиона токенов, которые пользователь отправляет в модель, составляет $5, а выходные токены обойдутся в $25. Это позволяет техкомпаниям менее резко оптимизировать свои расходы, избегая сильных колебаний в доходах и расходах.
Практическое значение для разработчиков AI
Для индийских и российских разработчиков AI этот новшество может означать необходимость изменения подхода к управлению ресурсами. Если ваш проект зависит от AI, обратите внимание на новые модели оплаты, учитывающие реальное использование. Лозунг «больше токенов — лучше» может привести к неожиэтим расходам без реальных результатов.
Следующий важный шаг для AI-отрасли — это адаптация к новым реалиям, и компании, которые смогут эффективно принимать эти изменения, будут иметь явное преимущество на рынке.