ИИ и законодательство могут столкнуться с той же проблемой, что и софт с уязвимостями: языковые модели способны массово находить в нормативных актах противоречия, пропуски и ошибки оформления. Юрист Феликс Ринге, приглашённый исследователь Stanford Law School, предупреждает: если такой поиск станет дешёвым и автоматизированным, суды и законодатели могут не успеть закрывать найденные лазейки.
Об этом сообщает The Register. Вместе с Линусом Фолкертсом Ринге предлагает смотреть на написанный закон как на код: оба состоят из формальных правил, оба зависят от точных формулировок и оба иногда содержат дефекты. Разница неприятна лишь масштабом последствий. Ошибка в приложении может открыть доступ к данным или остановить сервис; ошибка в нормативном акте способна поставить под вопрос запрет, обязанность или порядок работы целой отрасли.
Авторы не утверждают, что модель заменит адвоката или судью. Их тезис прозаичнее и оттого интереснее: LLM уже достаточно сильны, чтобы перебрать огромный массив документов, сопоставить отсылки между законами и подзаконными актами, заметить отсутствующую правовую основу и предложить линию для оспаривания. То, на что у команды юристов ушли бы дни или недели, становится задачей для автоматизированного первичного анализа. А затем результаты можно ранжировать, перепроверять и масштабировать.
В качестве иллюстраций Ринге и Фолкертс приводят несколько потенциальных проблем в немецком праве — только те, которые, по их оценке, не должны привести к серьёзному вреду. В одном случае речь идёт о поправке к немецкому положению о профессиональных заболеваниях. Для такого акта конституционное требование предполагает ссылку на полномочие, на основании которого он принят, но исследователи считают, что нужная ссылка могла быть пропущена. Это теоретически даёт журналисту аргумент при запросе неопубликованного документа, поданного в консультативный совет по профзаболеваниям: положение о конфиденциальности может оказаться оспоримым.
Другой пример связан с правилами транзитных виз: возможная проблема опять не в сути регулирования, а в том, что государство якобы не указало законное основание для принятия правила. Именно такие дефекты особенно похожи на баги в инфраструктурном коде. Их не обязательно заметит человек, который читает акт ради содержания, зато модель может системно проверять шаблонные требования: полномочия, сроки, исключения, определения, отсылки и совместимость версий документа.
Аналогия «право как код» не нова. Ещё в 1990-х исследователи права и технологий обсуждали обратную формулу — что программный код регулирует поведение в цифровой среде. Но с распространением генеративных моделей идея получила прикладное продолжение: в юридической системе появился инструмент для поиска «нулевых дней». Судебное толкование обычно способно сгладить неудачные формулировки, однако оно работает точечно. Если тысячи компаний, активистов или недобросовестных участников рынка одновременно получают набор потенциальных лазеек, у судебной системы может просто не оказаться пропускной способности для быстрой реакции.
Рынок права уже движется в эту сторону. Партнёр юридической фирмы из Сан-Франциско Венди Маселл рассказала изданию, что отдельные суды Калифорнии, включая Высший суд Лос-Анджелеса, тестируют ИИ в роли помощников судьи: система может помогать с исследованием материалов и черновиками документов, которые затем проверяет человек. Для практикующих юристов это означает новую реальность: надо учитывать не только собственную аргументацию, но и то, как разные ИИ-системы интерпретируют поданные ходатайства и судебную практику. Маселл при этом указывает на возможную предвзятость моделей и ошибки в анализе правовых вопросов.
Профессор права Университета Санта-Клары Эрик Голдман оценивает подход осторожнее. По его словам, использовать ИИ для поиска предполагаемых пробелов в законах логично, но каждую находку необходимо проверять вручную. Формальный изъян может не иметь правовых последствий, а существенные ошибки законодатель обычно исправляет после обнаружения. Это важное ограничение для бизнеса: вывод модели — не готовая стратегия обхода нормы и не юридическое заключение, а гипотеза, которую нужно сверять с практикой, полномочиями органа, судебными решениями и фактическими обстоятельствами.
Для разработчиков regtech- и legaltech-продуктов ИИ и законодательство создают одновременно рынок и зону повышенного риска. Полезный продукт сможет отслеживать изменения актов, сверять ссылки на полномочия, выявлять конфликтующие определения и подсвечивать нормы, требующие экспертной проверки. Но интерфейс в стиле «найти способ не соблюдать правило» быстро превратит инструмент комплаенса в инструмент злоупотреблений. Компании, работающие в регулируемых сферах, вероятно, начнут использовать такие системы прежде всего для внутреннего аудита: искать слабые места не только в чужих правилах, но и в собственных регламентах, договорах и процессах.
Логичный ответ государства — применять те же методы при подготовке законов: автоматическая проверка отсылок, коллизий, полномочий и последствий поправок до публикации. Голдман считает, что в ближайшей перспективе это скорее задача юридических служб законодательных органов, чем самих политиков: устранение пробелов редко входит в число главных приоритетов автора законопроекта. Открытый вопрос в другом: смогут ли регуляторы встроить такую проверку в процесс раньше, чем дешёвый поиск юридических лазеек станет стандартной функцией любого ИИ-ассистента. Подробнее об аргументах исследователей — в материале .
