66% организаций доверяют автоматическим оценкам AI только частично, несмотря на то что они позволяют своим агентам действовать автономно. Половина пользователей уже развернули решения, которые, прошедшие внутренние проверки, затем привели к сбоям у клиентов в производстве.
Контекст ситуации
Исследование VentureBeat среди 157 предприятий показало, что автоматизация процессов внедряется быстрее, чем уровень доверия к оценкам, на основе которых принимаются решения. Только 5% респондентов полностью доверяют результатам автоматизированных тестов, что указывает на серьезный разрыв между предоставляемой автономией и уровнем контроля. Наиболее распространенной проблемой является несоответствие оценок реальным условиям.
Детали исследования
Из всех опрошенных, 50% столкнулись с тем, что AI-агенты, прошедшие внутренние тесты, затем выдали сбой, а четверть компаний сталкивалась с этим неоднократно. Порядка 66% компаний тем не менее уже разрешили использование автоматического развертывания алгоритмов без участия человека или планируют это сделать в ближайшие 12 месяцев. Однако используемые инструменты для оценки производительности AI остаются фрагментированными: 17% компаний применяют только встроенные инструменты поставщиков, а 25% не используют никаких специализированных решений.
Значение для бизнеса
Российским предприятиям стоит обратить внимание на эти тренды: доверие к автоматической оценке может варьироваться в зависимости от отрасли. Если ваша компания планирует внедрить AI, настройте процессы оценки для минимизации риска сбоев. Ожидайте, что внедрение AI-решений может привести к необходимости пересмотра подхода к оценке их производительности.
Следующий шаг — компании должны разработать более надежные системы оценки и мониторинга, чтобы обеспечить устойчивую работу своих AI-агентов.