68% компаний, использующих AI-контекстные слои, замечают многочисленные ошибки в работе своих агентов. Для профессионалов это сигнал к тому, что внедрение таких слоев не всегда гарантирует улучшение качества ответов.
Актуальность проблемы
По данным недавнего опроса VB Pulse, проведенного среди 101 компании с более чем 100 сотрудниками, количество ошибок в ответах агентов выросло с 57% до 68% всего за шесть месяцев. При этом 37% отмечают, что подобные ошибки повторяются, в то время как среди тех, кто не использует контекстные слои, эта цифра составляет 32%.
На фоне этого наблюдается тренд на увеличение внедрения контекстных слоев: с 25% в июне до 32% в июле текущего года. Тем не менее, число проблем не сокращается — по сравнению с июньскими данными, количество ошибок, связанных с отсутствием или несогласованностью контекста, только увеличивается.
Причины и последствия ошибок
Основная причина ошибок заключается в том, как агентам передаются данные о бизнес-контексте. Например, 31% компаний используют дублирование текста, а 13% вообще не применяют структурированный подход, что приводит к неверным выводам. Эти постановки задач создают риск уверенных, но ошибочных ответов.
Сриджит Раджамохан, исследователь AI в Redis, подчеркнул, что различия в формулировках могут привести к путанице. Например, если получить предложение «Рим ближе, чем Париж» и «Париж ближе, чем Рим», система не сможет корректно идентифицировать противоречие, просто полагаясь на текст.
Что это значит для бизнеса
Для компаний важным выводом становится необходимость грамотного и структурированного подхода к внедрению AI-контекстов. 38% организаций оценивают успех своих систем по точности ответов — это вдвое больше, чем по критериям безопасности. Если ваша организация сталкивается с проблемами при использовании AI-агентов, стоит подумать о разработке продуманного контекстного слоя.
Следующий шаг для многих компаний — это переосмысление методов сбора и обработки данных для минимизации ошибок и повышения эффективности AI-систем.
