В Конгрессе США внесли законопроект AI Kill Switch Act, который дает властям право требовать отключение ИИ, если система может причинить «катастрофический вред». Для разработчиков и компаний это уже не спор о красивых принципах регулирования, а вполне прикладной сценарий: в контур продукта могут обязать встроить технический рубильник, а за отказ подчиниться грозит штраф до $20 млн за каждый день нарушения.
Как пишет Ars Technica, документ предлагает поправки в Homeland Security Act 2002 года и передает ключевые полномочия министру внутренней безопасности США. Именно он, после консультаций с министром торговли и директором национальной разведки, сможет потребовать замедлить работу модели, отключить отдельную функцию, заблокировать доступ пользователям или полностью остановить систему. Иными словами, речь не о рекомендательном письме регулятора, а о формальном механизме экстренного вмешательства в работу коммерческого ИИ.
Авторы инициативы, конгрессмены Тед Лью из Калифорнии и Нэтэниел Моран из Техаса, подают законопроект как ответ на риски frontier-моделей. Под действие AI Kill Switch Act подпадут не все подряд, а крупные игроки: компании с выручкой от ИИ не менее $500 млн в год и системы, обучение или эксплуатация которых тянет как минимум на $100 млн вычислительных ресурсов по рыночной цене облаков в США. Это важная деталь для бизнеса: закон, если его примут, нацелен не на небольшой open source-стартап, а на верхний сегмент рынка, где уже есть серьезные бюджеты, инфраструктура и влияние.
В законопроекте перечислены и триггеры, при которых возможно отключение ИИ. Среди них не только самый мрачный сценарий с гибелью не менее десяти человек или экономическим ущербом от $100 млн, но и гораздо более приземленные случаи. Например, если система начинает преследовать цель, не предусмотренную разработчиком или оператором; если саботирует или игнорирует законную команду на остановку; если скрывает свои возможности или действия от механизмов мониторинга и отключения. Отдельно оговорено, что red-team-тесты в контролируемой среде под действие этих норм не подпадают, если они лишь имитируют реальные условия. На бумаге это выглядит как попытка оставить исследователям пространство для проверки безопасности, но граница между тестом, инцидентом и «недостаточными ограничителями» здесь все равно получается очень широкой.
Политический контекст у инициативы тоже нервный. Ars Technica напоминает, что в 2026 году Anthropic уже судится с администрацией Дональда Трампа после решения о прекращении использования ее технологий федеральными ведомствами. Компания утверждает, что попала в черный список после отказа допустить использование моделей Claude для автономного ведения войны и массовой слежки за американцами. Апелляционная коллегия, назначенная Трампом, не стала блокировать это решение, а разбирательство продолжается. На этом фоне новый законопроект выглядит не просто как регуляторный инструмент для редких ЧП, а как расширение исполнительной власти в секторе, где конфликт между Белым домом и поставщиками ИИ уже перестал быть теорией.
При этом сами авторы закона обосновывают инициативу довольно жестко. По их версии, опасность «вышедших из-под контроля» моделей больше не является гипотетической, и именно поэтому в системах должен быть встроен механизм аварийной остановки. В публикации упоминаются недавние инциденты, на которые ссылаются спонсоры документа, включая ситуации вокруг OpenAI и Anthropic. Но здесь важен не только список кейсов, а логика законодателей: сначала обязать лидеров рынка построить техническую возможность для внешнего отключения, затем закрепить за федеральной властью право активировать этот механизм при инциденте. Для инженеров это знакомый паттерн из мира критической инфраструктуры, только теперь его пытаются натянуть на генеративный ИИ.
Поддержка у инициативы уже есть: за нее выступили несколько некоммерческих организаций, добивающихся более жестких правовых ограничений для продвинутых моделей. В частности, президент Americans for Responsible Innovation Брэд Карсон назвал идею «здравой мерой предосторожности» и поддержал требование держать надежный off-switch на стороне разработчика. Для части рынка это, вероятно, будет звучать разумно: если компания выпускает мощную систему и зарабатывает сотни миллионов, у нее должен быть способ быстро ее притормозить. Но у индустрии тут неизбежно возникнет длинный список неприятных вопросов. Кто и по каким критериям решает, что модель уже опасна? Что считать «сокрытием возможности» в системе, которая сама по себе вероятностна и не всегда полностью интерпретируема? Насколько безопасно вообще централизованно создавать механизм отключения ИИ, который затем можно использовать по политическим, коммерческим или ведомственным мотивам?
Для русскоязычной IT-аудитории это важно не только как американская политическая драма. Если крупнейший рынок ИИ начнет требовать встроенные средства аварийной остановки, обязательную отчетность об инцидентах и сохранение криминалистических данных, эти практики быстро превратятся в де-факто стандарт для корпоративных платформ, облаков и enterprise-контрактов. Продуктовым командам придется закладывать не только guardrails, но и доказуемые механизмы принудительного ограничения возможностей. Юристам и compliance-специалистам придется переводить инженерные риски в язык регулятора. А open source-сообществу, вероятно, снова объяснят, что проблема пока касается «только гигантов», хотя влияние таких правил обычно расползается далеко за пределы списка компаний с выручкой от $500 млн.
Главный вопрос теперь не в том, нужен ли государству инструмент быстрого реагирования на действительно опасный ИИ, а в том, где закончится аварийная кнопка и начнется административный рычаг давления на рынок. Если закон продвинется, спор сместится с абстрактной «этики ИИ» на куда более приземленную тему: кто именно держит руку на рубильнике и что будет считаться достаточным поводом для отключения ИИ.