Администрация Дональда Трампа запустила проверки ИИ-моделей на федеральном уровне, но дала на ключевой этап всего 30 дней. Проблема в том, что сами проверки ИИ-моделей поручают структурам, чьи киберкоманды недавно серьезно сократили, а для разработчиков и IT-бизнеса это важный сигнал: государство хочет контролировать риски генеративного ИИ, но пока больше похоже на демонстрацию намерений, чем на рабочую систему.
Как пишет Ars Technica, Трамп подписал указ, который расширяет усилия правительства США по добровольному тестированию frontier-моделей, то есть самых мощных ИИ-систем, способных использоваться в кибероперациях. Формально речь идет о балансе между безопасностью и скоростью внедрения технологий. На практике Белый дом отказался от жестких требований к компаниям и сделал ставку на добровольное сотрудничество с разработчиками. Иными словами, государство просит показать модель на проверку, но не заставляет это делать.
Ключевое изменение по сравнению с ранним черновиком указа касается сроков. Изначально федеральные структуры хотели получать доступ к моделям за 90 дней до того, как их увидят другие доверенные партнеры. Это дало бы больше времени на поиск уязвимостей и хотя бы попытку закрыть самые опасные дыры. В финальной версии окно сократили до 30 дней. По данным публикации, сам Трамп опасался, что длинная пауза перед релизом превратится в тормоз для американской ИИ-индустрии и даст конкурентам шанс обойти США. Для рынка это понятный политический жест: не мешать гонке моделей. Для безопасности все выглядит менее вдохновляюще.
По тексту указа Агентство национальной безопасности США должно создать закрытый механизм бенчмаркинга и определить, какие модели вообще считать «пограничными» и подпадающими под особый режим. Параллельно АНБ, Минфин США и CISA должны развернуть своего рода кибербезопасный clearinghouse для массового поиска и устранения уязвимостей, а также оформить добровольную схему, по которой разработчики будут отдавать модели на тесты. На бумаге набор участников звучит внушительно. Но есть неудобная деталь: процессы предлагается запустить за 30 дней, а на расширение найма профильных специалистов Управлению кадров США отвели 60 дней. То есть людей, которые должны проводить проверки ИИ-моделей, по сути еще только собираются искать.
Отдельный штрих добавляет история с деньгами. Бюджетному управлению Белого дома поручено выяснить, нет ли в федеральных грантовых программах подходящего финансирования для команд, которые разрабатывают средства поиска уязвимостей в продвинутом ИИ. Формулировка сама по себе красноречива: сначала объявляем новую систему, потом смотрим, откуда бы на нее взять ресурсы. В качестве временной подпорки администрация делает ставку на ужесточение правоприменения. Генпрокурору поручено активнее преследовать тех, кто использует ИИ для незаконного доступа к системам, кражи данных и другой компьютерной преступности. Логика понятна, но от атак плохо защищает один только страх наказания, особенно если опасная модель уже вышла в прод.
Критика пришла не только извне. Бывший советник Трампа по ИИ Дин Болл публично усомнился, что добровольные проверки вообще дадут заметный эффект, задав прямой вопрос: что именно разведсообщество успеет сделать за 30 дней, чтобы модели стали безопаснее. В аналитике Council on Foreign Relations эту проблему разложили подробнее. Мэттью Феррен назвал указ попыткой создать «окно возможностей» для защитников: получить доступ к новым кибервозможностям раньше противников и успеть закрыть критические уязвимости. Идея красивая. Исполнение хромает уже на входе, потому что найти уязвимость часто проще, чем добиться, чтобы ведомства и подрядчики быстро ее устранили на реальных системах.
Самая болезненная часть этой истории связана с кадрами. По оценке экспертов, прошлогодние сокращения в рамках Department of Government Efficiency особенно сильно ударили по CISA. Агентство потеряло офицеров, контракты и часть институциональной памяти, которая как раз нужна для оперативной киберобороны. Феррен прямо допускает, что именно из-за ослабления CISA Минфин получил неожиданно заметную операционную роль в новой схеме. Проще говоря, Белый дом распределяет обязанности не только по профилю, но и по тому, где еще остались живые команды. Для любой IT-аудитории это знакомый сюжет: можно нарисовать красивый процесс на слайде, но если сильных инженеров сократили квартал назад, слайд не начнет патчить инфраструктуру сам.
Есть и более глубокая проблема, на которую указывает эксперт CFR Винь Нгуен. Самым сложным пунктом указа он считает даже не вопрос о том, кто именно будет тестировать модели, а попытку определить, что вообще считать опасной frontier-моделью. Современные ИИ-системы не имеют фиксированного потолка возможностей: они ведут себя по-разному в зависимости от масштаба, дообучения, внешних инструментов и сценария развёртывания. Модель, которая в лабораторном тесте выглядит почти безобидно, может стать очень полезным инструментом для атаки, если встроить ее в автономный пайплайн с доступом к реальной цифровой инфраструктуре. Если критерий окажется слишком узким, опасные системы уйдут в релиз без должной проверки. Если слишком широким, немногочисленные специалисты утонут в потоке моделей и отчетов.
Для разработчиков и продуктовых команд здесь важен еще один вывод. Даже если добровольная схема заработает, государство увидит только то, что ему готовы показать сами лаборатории. Нгуен называет это проблемой наблюдаемости: нельзя оценить то, к чему у тебя нет доступа. В случае frontier-ИИ реальная картина возможностей, ограничений и обходных сценариев часто остается внутри компаний, а не в руках регулятора. Поэтому новый американский подход выглядит как мягкая координация с индустрией, а не как полноценный контур контроля. Для бизнеса это означает продолжение курса на быстрые релизы с минимальным внешним трением. Для рынка кибербезопасности, наоборот, это обещает спрос на инструменты оценки моделей, red teaming и защиту инфраструктуры вокруг ИИ-сервисов.
Главный вопрос теперь не в том, нужен ли государству доступ к мощным моделям до их массового развёртывания, а в том, можно ли построить такую систему без людей, денег и ясных критериев. Если Вашингтон не ответит на него быстро, проверки ИИ-моделей останутся политическим ритуалом: громким, срочным и почти бесполезным в тот момент, когда риски уже выходят из тестовой среды в рабочие сети.