73% предприятий планируют пересмотреть свои подходы к управлению AI-агентами в ближайшие 12 месяцев. Основной причиной этого становится то, что многие из уже развернутых решений не способны выполнять сложные задачи без человеческого участия.
Контекст ситуации на рынке
По данным VentureBeat Research, исследования в июне показали, что большинство компаний внедряли AI-агентов ещё до того, как задумались о необходимых контролях для их эффективного управления. В результате множество организаций сталкиваются с необходимостью ремонта своей AI-инфраструктуры и выделяют на это бюджет. Так, 57-68% предприятий намерены сменить поставщиков решений в области управления AI-агентами в течение года.
Детали и цифры
Исследование выделяет пять основных контроля, которые необходимы для доверия к AI-агентам: идентификация, оценка, телеметрия затрат, контекстуальный слой и управление оркестрацией. При этом 71% компаний сообщили, что не более четверти развернутых агентов способны выполнять многоступенчатую работу самостоятельно. На практике это означает, что большинство решений просто являются чат-ботами, не выполняющими сложные заказы.
Примечательно, что 64% компаний уже разрешают своим агентам вносить изменения в системы или код без предварительной проверки человеком. При этом лишь 5% предприятий полностью доверяют оценкам, которые ведут к таким решениям. Неудивительно, что многие из них столкнулись с проблемами после завершения внутренних проверок.
Практические выводы для бизнеса
Российские компании, активно внедряющие AI-технологии, должны учитывать, что неэффективная работа AI-агентов может привести к потере доверия клиентов и увеличению затрат. Каждой компании необходимо продумать систему контроля и последовательного управления, чтобы минимизировать ошибки и потери. Например, стоит обратить внимание на внедрение индивидуальных учетных записей для каждого агента, что значительно снизит риски безопасности.
В следующем году ожидается, что AI-технологии будут продолжать развиваться, и вместе с этим возрастет необходимость в надежной инфраструктуре для их управления. Компании, которые смогут адаптироваться, будут в выигрыше на растущем рынке.