Исследования показывают, что новая методология CRAG способна значительно улучшить процессы генерации текста, устраняя недостатки традиционного Retrieval-Augmented Generation (RAG). Поскольку RAG полагается на случайный выбор документов, он может выдавать неверную информацию, что представляет собой серьезную проблему, особенно в корпоративной среде.
Оценка качества данных в CRAG
В отличие от традиционных алгоритмов RAG, которые извлекают документы по принципу семантического сходства, CRAG вводит механизм оценки качества извлеченных данных. По словам авторов исследования Яна и др. (2024), "высокая зависимость генерации от извлеченных знаний вызывает значительные опасения в отношении поведения модели и ее производительности в случаях, когда извлечение может оказаться неэффективным или давать неточные результаты".
Преимущества использования CRAG
Ключевое отличие CRAG заключается в применении оценщика извлечения, который анализирует полезность документов перед их передачей генератору. Этот подход делит документы на "знания" и очищает их от нерелевантной информации, что позволяет сократить использование токенов на 46% или даже более 90% по сравнению с обычным RAG, не ухудшая качество ответов. Если CRAG не находит подходящих документов, он запускает внешний поиск по web-ресурсам с предварительной оптимизацией запросов, что увеличивает вероятность получения релевантной информации.
Для разработчиков и бизнеса это означает, что использование CRAG может снизить риски, избегая выдачи недостоверной информации и тем самым повышая доверие к автоматизированным системам обработки данных. Неправильные данные могут нанести серьезный ущерб, особенно в сферах, где требуется точность информации, таких как финансы или юридические вопросы. В ближайшее время CRAG может стать стандартом для внедрения в корпоративные системы, предоставляя более надежные инструменты для разработчиков и компаний.
