57% предприятий заявляют о том, что их AI-агенты порой дают уверенные, но неверные ответы. Причина кроется в том, что контекст, на основе которого они принимают решения, вызывает недоверие. Это создаёт так называемый контекстный разрыв — дистанцию между уверенными, но ошибочными ответами и реальным уровнем доверия к системам.
Проблема с контекстом AI
По данным исследования VentureBeat, проведённого среди 101 компании, структуру, подающую контекст для AI-агентов, развивают не так быстро, как нужно для возникновения доверия. На данный момент маршруты для поиска информации сильно зависят от методов, которые ещё не полностью соответствуют требованиям большинства организаций. При этом 38% предприятий полагаются на генерирование информации на основе поиска, что в условиях недостатка контекста приводит к настройкам без надлежащей основы.
Популярность решений на основе собственных инструментов поставщиков, таких как поиск файлов OpenAI (40%) и Google Vertex AI Search (38%), показывает тенденцию, где доступные технологии становятся доминирующими. При этом 57% респондентов планируют сменить или добавить ещё одного поставщика в ближайший год, что указывает на желание независимости от конкретного решения.
Влияние на рынок
Выводы исследования подчеркивают важность настройки контекстного слоя, который в настоящее время разрабатывается 58% опрошенных. Однако большинство из них еще не внедрили это решение в рабочие процессы. Это приводит к тому, что ошибки AI-агентов могут негативно сказаться на репутации компаний и общей удовлетворённости клиентов.
Для российских предприятий это сигнал о необходимости более тщательного подхода к выбору AI-решений и инвестиций в качественный контекстный слой. В условиях роста применения AI важно учитывать возможные риски и выбирая инструменты, требовать открытости и доступности данных, используемых для обучения моделей AI.
Следующий шаг для предприятий — эффективно интегрировать семантические слои и искусственный интеллект для улучшения качества взаимодействия с клиентами и сокращения ошибок в оценках.