Компании начали пересматривать свои инвестиции в искусственный интеллект из-за высоких затрат и неопределенности в получаемых результатах. Нарастающая проблема «деньги уходят, результатов нет» ставит вопрос, как эффективно использовать вложенные средства в ИИ.
Проблемы с ROI от инвестиций в ИИ
Генеральный директор по портфельной стратегии в Red Hat Брайан Грейсли в ходе последнего мероприятия AI Impact Tour отметил, что компании сталкиваются с тратами на ИИ, которые становятся всё более проблематичными. «У нас есть клиенты, которые заявляют: у меня есть 50 000 лицензий Copilot, но я не знаю, что они из этого получают», — говорит он. При этом затраты на вычисления с использованием GPU остаются высокими. Средняя стоимость таких расходов может стать серьезной проблемой для бизнеса.
Изменение подхода к внедрению ИИ
В последние два года компании не сильно беспокоились о затратах на генеративный ИИ, так как находились в стадии экспериментов с высокими инвестициями, которые казались оправданными. Однако сейчас фокус смещается от «можем ли мы что-то построить?» к «что мы получили за свои деньги?» Это заставляет предприятия пересматривать эффективность своих инвестиций и искать более разумные модели издержек.
Организации, прошедшие один полный цикл внедрения ИИ, начинают задумываться о том, как стать производителями токенов, а не только потребителями. «Как я могу начать генерировать токены?» — спрашивает Грейсли. Многие начинают осваивать аренду GPU или использование различных эффективных моделей, которые не требуют самых современных решений или инфраструктуры. Решение здесь не всегда очевидно и зависит от конкретных задач, условий и готовности брать на себя риски.
Мировые лидеры в области ИИ, такие как Anthropic, прогнозируют снижение затрат на ИИ-инференцию на 60% в год. Однако стремительное увеличение использования технологий одновременно с уменьшением единичных затрат может привести к неожиданному увеличению общих расходов. Для компаний важным остается умение правильно управлять расходами и находить время для оценки эффективности своих решений.
Дальнейшие шаги для бизнеса заключаются в проведении детального анализа и временном планировании нового подхода к инвестициям в ИИ, чтобы поддерживать баланс между затратами и получаемыми результатами.
