85% компаний, пострадавших от ошибок искусственного интеллекта, начинают сокращать число людей, участвующих в принятии решений по его развертыванию. Это несмотря на рост доверия к автоматическим оценкам: в июле 2023 года 13% опрошенных работников признались, что доверяют им, по сравнению с 5% в прошлом месяце.
Контекст ситуации на рынке
Согласно опросу VentureBeat, проведённому среди 108 предприятий, 49% компаний отмечают, что ИИ-продукты, прошедшие тестирование, впоследствии вызывали проблемы у клиентов. Этот показатель практически не изменился с июня, когда он составил 50%. В дальнейшем большинство компаний, испытать на себе недостатки автоматических оценок, скорее всего, станут более скептичными к процессам, которые далеки от совершенства. Более того, почти 24% респондентов сталкивались с проблемами несколько раз.Разрыв между доверием и реальностью
Исследование также показало, что у клиентов, столкнувшихся с провалами в тестированию, только 4% полностью доверяли автоматическим проверкам. Напротив, среди тех, кто не сталкивался с проблемами, такие уверенные составили 24%. Это побуждает компании пересматривать свои стратегии. Например, основатель Raindrop.ai Бен Хилак заявил, что сейчас наблюдается упадок традиционных методов оценки: «Компании уменьшают тестовые наборы и отказываются от поддержки, поскольку системы становятся слишком сложными для адекватного тестирования».Практическое значение для бизнеса
Для российских компаний, работающих с ИИ, развитие ситуации на международном рынке сигнализирует о необходимости пересмотра стратегий внедрения ИИ-решений. Ожидается, что сокращение человеческого участия в таких процессах приведет к ошибкам в развертывании, а значит, нужно заведомо закладывать зависимость от автоматического контроля и тестирования. Это требует разработки надёжных систем мониторинга и анализа, чтобы минимизировать возможные риски.Рынок ждёт, что в будущем компании все больше будут сосредотачиваться на решениях по калибровке и настойке ИИ, что означает значительные усилия на этапе тестирования и внедрения.
