Сервис CiteProof предлагает проверку юридических цитат в судебных документах: он ищет несуществующие дела, неверные ссылки на законы и искажённые выдержки из решений. Для рынка, где один выдуманный прецедент может обернуться санкциями и репутационным провалом, это не косметическая функция, а базовая страховка от генеративного ИИ. Русскоязычным командам, внедряющим ИИ в документооборот, история напоминает простое правило: текст, написанный моделью, нельзя считать проверенным текстом.
Как сообщает The Register, CiteProof рассчитан прежде всего на юристов и юридические фирмы, которые уже используют генеративные модели для исследований и черновиков процессуальных документов. Бесплатный режим позволяет выполнять отдельные проверки ссылок на дела и нормы права. Платные тарифы добавляют развёрнутые отчёты, проверку цитат, пакетную обработку и другие сценарии: один документ стоит $49, пакет из пяти — $199, а подписка для фирм с лимитом до 200 проверок в месяц — $499.
Главная особенность продукта — его создатели подчёркивают, что проверка юридических цитат не поручается другой языковой модели. Вместо вероятностной оценки сервис извлекает из документа данные о ссылках и сверяет их детерминированными запросами с публичными судебными записями через CourtListener. По заявлению CiteProof, на его серверы уходят только строки, относящиеся к цитатам; документы не сохраняются и не передаются в LLM. Проверка не оценивает силу аргументации и не заменяет юриста — она отвечает на более приземлённый вопрос: существует ли указанное дело и соответствует ли цитата первоисточнику.
Проблема давно перестала быть курьёзом из первых месяцев массового увлечения чат-ботами. В 2023 году языковые модели уже демонстрировали способность сдавать экзамены, близкие по формату к bar exam, но это не мешало им уверенно придумывать судебную практику. Генератор текста не ищет источник так, как это делает правовая база: он предсказывает следующее слово. Если запрос требует убедительной ссылки, модель вполне способна собрать правдоподобное название дела, дату и реквизиты — особенно когда в обучающих данных встречались похожие конструкции.
Ошибки затрагивали не только пользователей OpenAI. В прошлом году юристы Anthropic, защищая компанию в споре с музыкальными издателями, указали, что в декларации специалиста по данным появились две ссылки в формате, характерном для Claude. Они вели к неподходящим материалам, а команда не заметила этого на этапе проверки. Ещё жёстче оказался случай в Джорджии: в прошлом году судебное решение отменили после того, как в самом постановлении обнаружили фиктивные ссылки. ИИ может ошибиться; хуже, когда его ошибку заверяет человек, чья работа как раз состоит в проверке фактов.
На этом фоне CiteProof выбирает довольно здравую архитектуру. В разработке платформы, по признанию компании, применялся вайб-кодинг, однако контроль ссылок намеренно вынесен из зоны генеративного ИИ. Это важное разделение ролей: модель помогает быстро собрать черновик, а система верификации проверяет утверждения по источникам с предсказуемым результатом. Для разработчиков LegalTech-продуктов здесь есть практический вывод: доверие к ИИ в регулируемых процессах строится не на более разговорчивом интерфейсе, а на журнале проверок, понятных источниках данных и возможности воспроизвести результат.
Для бизнеса такие инструменты особенно актуальны там, где документы создаются быстрее, чем их успевает читать старший специалист: в юридических департаментах, консалтинге, закупках, комплаенсе и HR. Но готовый сервис для американской судебной практики не решает автоматически задачу для российских или международных документов. Нужны качественные базы нормативных актов и судебных решений, корректное распознавание реквизитов, поддержка разных форматов ссылок и, главное, процесс, в котором отрицательный результат проверки не игнорируют ради дедлайна.
Проверка юридических цитат может стать одним из первых обязательных слоёв контроля для ИИ-документов — наряду с проверкой персональных данных, прав доступа и происхождения фактов. Чем активнее компании превращают LLM в младших аналитиков и авторов черновиков, тем ценнее становятся системы, которые не пытаются звучать умно, а просто не позволяют отправить в суд ссылку на дело, которого никогда не было.