Ведущий стратег портфеля Red Hat Брайан Грейсели подчеркнул, что компании переоценивают свои успехи в внедрении AI-агентов. В то время как многие боятся отставания от конкурентов, Грейсели отмечает, что процесс обучения в организациях происходит быстрее, чем ожидается.
Рост использования AI-агентов
Количество задач, которые выполняются с помощью AI-агентов, стало значительно больше по сравнению с прошлой эпохой чат-ботов. Это приводит к росту расходов на AI: стоимость использования может возрастать быстро, превращая вопросы управления затратами в ключевую тему для обсуждения на уровне руководства.
По словам Грейсели, зависимость от нескольких поставщиков моделей вызывает у компаний необходимость поиска альтернатив для контроля над бюджетом. “Топ-3 поставщика уже сообщают о убытках и пытаются выйти на биржу, чтобы компенсировать эти потери,” — пояснил он.
Оптимизация затрат на AI
Основная проблема заключается в том, что компании не оптимизируют расходы, выбирая наиболее мощные модели для выполнения простых задач. Грейсели привёл пример: “Если необходимо рассмотреть страховой случай, нет смысла использовать модель, которая знает историю западной цивилизации”.
Для оптимизации затрат организации могут применять семантическую маршрутизацию, которая автоматически направляет запросы к модели, соответствующей задаче, что позволяет избежать лишних затрат на вычисления. Таким образом, компании могут получить преимущества от гибкости моделей без ущерба для эффективности.
Значение безопасности и скорости патчей
С быстрым развитием AI-инструментов компании сталкиваются с необходимостью улучшения скорости обнаружения и устранения уязвимостей. Устаревшие циклы управления патчами перестают быть достаточными в условиях быстрого изменения ландшафта безопасности.
Всё это подчеркивает важность повышения осведомленности среди работников о правильном выборе моделей и управлении расходами. “Следует позаботиться о том, чтобы финансовые команды понимали, что такое токены, подобно тому, как мы ранее обучали их разбираться в облачных сервисах,” — резюмировал Грейсели.
Для компаний в России и СНГ важность этих вопросов становится особенно актуальной с ростом популярности AI-агентов. Инвесторы и руководители должны учитывать прогнозируемые расходы на AI, закладывая возможный рост цен на 20-30% в ближайшие годы.