Апелляционный суд США допустил санкции против юристов, которые принесли в дело против Meta фальшивые AI-цитаты и придуманные выдержки из судебных решений. Для IT-рынка это не просто курьез из американской практики: история показывает, как быстро разваливается любой legal tech-пайплайн, если генеративную модель ставят выше базовой проверки фактов.
Речь идет о споре вокруг поста в чикагской Facebook-группе Are We Dating the Same Guy, где женщины обсуждают опыт знакомств с одними и теми же мужчинами. Как пишет Ars Technica, истец Никко Д’Амброзио пытался засудить не только Meta, но и более двух десятков женщин, связанных с публикацией и обсуждением поста. В апелляции его команда получила уже не просто отказ по существу, а риск отдельных санкций за небрежную и, похоже, частично сгенерированную аргументацию.
Судебная история началась после того, как Аббигейл Раджала, с которой Д’Амброзио недолго встречался, опубликовала скриншот сообщения, которое он отправил ей с альтернативного номера после блокировки. По материалам дела, сообщение выглядело угрожающим. Дальше в треде подключились другие участницы группы: они выкладывали фотографии Д’Амброзио и критиковали его поведение. Сам истец утверждал, что Meta якобы продвигала этот пост ради его «развлекательной ценности», а значит, должна отвечать за вред его репутации и безопасности.
На практике конструкция оказалась слабой почти по всем швам. Суд отметил, что Раджала не публиковала номер телефона Д’Амброзио, не раскрывала дополнительных персональных данных и не призывала никого связываться с его семьей или работодателем. То есть ключевой тезис о доксинге с самого начала выглядел натянутым. Более того, истец так и не показал конкретный ущерб: не было доказательств, что пост привел к преследованию в офлайне, потере работы или иным измеримым последствиям. Еще одна важная деталь: в ходе процесса он не утверждал, что высказывания о нем были ложными. А когда его адвокаты слишком поздно попытались заявить, что скриншот сообщения мог быть подделан, апелляционная коллегия просто указала: спорить об аутентичности нужно было раньше, а не на устных слушаниях.
Где сломался legal tech
Самый неприятный для юридической фирмы эпизод начался уже в апелляции. Судья Седьмого округа Дэвид Хэмилтон в решении написал, что перед коллегией оказался сравнительно редкий случай, когда санкции действительно выглядят уместными. По его словам, апелляция не только была «frivolous», то есть по сути несерьезной и лишенной рабочих аргументов, но и содержала ошибки и вымышленные цитаты с характерными признаками злоупотребления генеративным ИИ.
Фирма MarcTrent.AI тут особенно уязвима, потому что сама строила маркетинг вокруг AI-first-подхода. Ее основатель Марк Трент ранее публично рассказывал, что команда использовала собственный tech-стек для подготовки первоначального иска и вообще применяет ИИ «во всем». На бумаге это выглядело как типичный legal tech-питч: поиск нестандартных возможностей, предиктивное моделирование, обещание повышать шансы на успех. В суде выяснилось, что автоматизация без редакторской дисциплины легко превращается в процессуальное самоубийство.
Апелляционная коллегия отдельно подчеркнула, что проблемы не сводятся к одной неудачной ссылке. В документах обнаружились некорректные цитаты, искажения правовых стандартов и общие утверждения о том, что считать доксингом, без опоры на релевантную судебную практику. Судьи даже вынесли в сноску претензию к тому, что один из юристов, Аарон Уолнер, похоже, не проверил проблемные ссылки и при этом не подписал поданный документ, хотя подпись как раз и означает профессиональное подтверждение проверки.
Теперь у юристов сразу три фронта риска. Первый связан с попыткой ввести суд в заблуждение по поводу подлинности скриншота. Второй касается того, что фальшивые AI-цитаты и фиктивные выдержки попали в судебные материалы. Третий упирается в саму подачу заведомо слабой апелляции. Среди возможных последствий названы как компенсация расходов другой стороне на защиту в апелляции, так и отдельные финансовые санкции против самих адвокатов. У фирмы есть срок до 16 июня, чтобы запросить слушание или письменно объяснить, почему санкции не должны применяться.
Что это значит для IT-компаний
Для русскоязычной IT-аудитории здесь есть сразу несколько практических выводов. Во-первых, генеративный ИИ все чаще доезжает до процессов, где цена ошибки измеряется не потерянным часом редактора, а судебными расходами, репутацией и дисциплинарными рисками. История с фейковыми ссылками в судах уже не единичная аномалия, а повторяющийся паттерн: модель уверенно достраивает правдоподобную реальность, а человек либо не замечает, либо решает, что и так сойдет.
Во-вторых, этот кейс полезен продуктовым командам, которые продают AI-автоматизацию в чувствительные домены вроде права, HR, комплаенса или инфобеза. Рынок пока охотно покупает обещания ускорить подготовку документов, найти скрытые закономерности и обойти более крупных игроков за счет модели. Но суд, регулятор или аудитор не оценивают красивый лендинг. Они смотрят на цепочку ответственности: кто проверял вывод, на что опирается ссылка, где подтверждение факта, почему человек поставил подпись под тем, что не прочитал.
В-третьих, дело показательно и для платформенного бизнеса. Д’Амброзио пытался сделать Meta ответственной за популярность поста, утверждая, что платформа будто бы усиливала его ради вовлечения и показа рекламы. Но апелляция оказалась настолько слабой, что судьи даже не стали серьезно разбирать классический для таких споров вопрос о защите платформ по Section 230. Это неприятный сигнал для тех, кто строит громкую правовую стратегию вокруг модных тезисов про алгоритмы, но не может доказать базовые элементы вреда, лжи и причинно-следственной связи.
На фоне бума AI-ассистентов в юриспруденции эта история выглядит как довольно точный стресс-тест отрасли. Пока одни компании учат модели писать иски, жалобы и заключения за минуты, суды напоминают о скучной, но обязательной части работы: любая ссылка должна существовать, любая цитата должна быть реальной, а любой документ должен пройти человеческую проверку. В legal tech сейчас побеждает не тот, кто громче всех обещает «обогнать традиционные фирмы с помощью ИИ», а тот, кто сумел встроить в продукт банальный, дорогой и неизбежный слой верификации. Иначе следующий AI-пилот может закончиться не демо-днем, а санкциями в судебном определении.