Cloudflare анонсировал новые функции для AI Gateway, которые помогут контролировать расходы на искусственный интеллект. Теперь компании могут устанавливать лимиты на затраты, что важно для управления бюджетами и избежания перерасходов.
Почему это важно для рынка
С увеличением использования AI затраты на него становятся проблемой для многих организаций. По данным Gartner, более 70% руководителей по информационным технологиям обеспокоены растущими расходами на AI. В условиях, когда компании стремятся использовать AI как можно активнее, многие сталкиваются с неожиданно большими счетами. В этом контексте функции от Cloudflare становятся особенно актуальными.
Как работают новые функции
AI Gateway теперь включает лимиты расходов, позволяя установку бюджетов в долларах, а не в токенах. Эти бюджеты отслеживают суммарные расходы по всем запросам в реальном времени. Например, можно установить ограничение для команды разработчиков в $5,000 в месяц, тогда как для стажеров — только $200. Это поможет избежать ситуаций, когда один сотрудник тратит $2,000, в то время как вся команда использует $400.
Преимущества для разработчиков
Для пользователей это означает больше контроля и прозрачности. Структурирование бюджетов и лимитов позволит командам оптимизировать использование AI, подбирая средства именно для тех задач, которые этого требуют. Переход на новую модель позволит правильнее распределять ресурсы и избежать неоправданных трат, так как многие задачи не требуют использования самых дорогих моделей AI.
Заключение о значении изменений
В условиях растущей конкуренции важно следить за расходами, особенно в сегменте AI. Новая система от Cloudflare может резко изменить подход к управлению расходами и помочь компаниям увидеть, куда уходит каждый доллар.
В следующем квартале ожидается дальнейшее развитие системы финансирования AI, а также возможное расширение функций управления расходами для более глубокого анализа и планирования.