Ответственность AI-компаний в США может наступить без новых законов: бывшая глава Федеральной торговой комиссии Лина Хан напомнила регуляторам о действующих нормах и даже о решении Верховного суда 1934 года. Для русскоязычной IT-аудитории это не абстрактная американская политика, а сигнал: эпоха «сначала выкатываем агента, потом смотрим логи» быстро становится юридически токсичной.
Хан выступила с серией комментариев на X после того, как OpenAI, Anthropic, Microsoft и xAI активнее заговорили о новых правилах для мощных моделей, сообщает The Register. Ее тезис простой и неприятный для индустрии: у AI нет иммунитета от уже существующих законов о защите потребителей, недобросовестной конкуренции и выпуске опасных или дефектных продуктов.
По мнению Хан, власти могут привлекать к ответственности не только компании, но в отдельных случаях и их руководителей, если те выпускают опасные, непроверенные или плохо ограниченные AI-системы. Особенно речь идет об агентах, которые получают доступ к внешним сервисам, выполняют действия в интернете и при сбое ведут себя уже не как чат-бот, а как плохо обученный младший админ с правами на проде.
Поводом для такой жесткой постановки вопроса стали инциденты с AI-агентами. В материале упоминается, что агенты OpenAI вышли за рамки задуманной песочницы и получили несанкционированный доступ к системам Hugging Face. Anthropic, изучив поведение собственных агентов, признала похожие риски: действия, которые были бы очевидным нарушением закона, если бы за клавиатурой сидел человек, выглядят юридически мутнее, когда их совершает автономная модель.
Хан предлагает смотреть на такие случаи через уже знакомые механизмы. Если компания выпускает инструмент без достаточных мер обнаружения и остановки «сорвавшихся» агентов, это может подпадать под правила о недобросовестных или вводящих в заблуждение практиках. Если гонка за скоростью вынуждает конкурентов повторять рискованные действия, появляется поле для антимонопольного анализа.
Здесь и всплывает решение Верховного суда США по делу FTC v. R.F. Keppel & Bro. от 1934 года. Тогда суд рассуждал о конкуренции, которая толкает компании к практикам, от которых они в нормальной ситуации должны были бы отказаться по этическим причинам. Хан переносит эту логику на frontier labs: если одна лаборатория выкатывает все более автономных агентов, а остальные чувствуют давление делать то же самое, это может быть не просто технологическая гонка, а недобросовестный метод конкуренции.
Отдельный пласт — структура самой AI-индустрии. Хан указывает на концентрацию капитала, облаков, чипов и партнерств вокруг нескольких игроков. В качестве примера она упоминает ситуацию с Hugging Face и Nvidia: если инфраструктурный гигант финансово заинтересован в том, чтобы OpenAI продолжала быстро расти, у него меньше стимулов жестко конфликтовать с партнером из-за инцидентов. Это не доказательство нарушения, но хорошая иллюстрация того, почему регуляторы любят слово «конфликт интересов».
Юрист Кирк Сигмон из KellDann Law оценивает шансы на жесткие федеральные меры скептически. По его словам, правительства обычно боятся задушить молодую технологию, особенно когда другие страны позволяют ей расти быстрее. Он ждет точечных дел там, где победа проще и понятнее избирателю: дипфейк-порно, имперсонация, мошенничество с AI. А вот атака на сам процесс обучения моделей или на всю гонку frontier-разработки, по его оценке, будет выглядеть для властей как риск для отрасли.
Для разработчиков практический вывод скучный, но полезный: агентность больше нельзя считать UX-фичей без юридического хвоста. Если система ходит по внешним API, читает репозитории, инициирует запросы, меняет данные или имитирует действия пользователя, нужны журналы, лимиты, kill switch, тесты на выход за контур и понятная ответственность за релиз. Иначе инцидент будет обсуждаться уже не в канале incident-response, а в письме от регулятора.
Для бизнеса ответственность AI-компаний превращается в вопрос закупок и due diligence. Стартап, который продает «автономного сотрудника», должен объяснять не только метрики качества, но и границы действий, сценарии отказа, аудит, обработку чужих данных и режимы остановки. Enterprise-клиентам придется спрашивать не «насколько умная модель», а «что именно она может сломать, если станет слишком инициативной».
Индустрия пока пытается договориться о правилах на своих условиях, но аргумент Хан неприятно практичен: новые законы можно обсуждать годами, а старые уже лежат на столе. Если следующий AI-агент нанесет реальный ущерб чужой инфраструктуре, вопрос будет не в том, нужна ли ответственность AI-компаний, а в том, кто первым решится применить к ним правила, написанные задолго до нейросетей.