Президент США Дональд Трамп подписал указ, который вводит схему проверки ИИ-моделей на кибербезопасность до их релиза. Это важно для разработчиков и компаний, занимающихся технологиями: теперь они должны быть готовы к дополнительным расходам и временным затратам на оценку своих продуктов.
Контекст и предыстория указа
Новый указ, озаглавленный Promoting Advanced Artificial Intelligence Innovation and Security, дает возможность Агентству национальной безопасности (NSA) получать доступ к мощным ИИ-моделям для оценки их киберспособностей. Доступ будет разрешен не перед публичным релизом, как первоначально предполагалось, а перед тем, как разработчики поделятся моделями с доверенными партнерами. Подобный подход может замедлить процесс вывода продукта на рынок.
Как будет работать новая схема
Инициатива подразумевает, что NSA будет оценивать кибервозможности моделей через засекреченный бенчмарк. Модели, которые пройдут проверку, получат статус "covered frontier model". После этого государству будет разрешено запрашивать доступ к таким моделям на срок до 30 дней. Однако отметим, что права блокировать релизы у власти нет, что, возможно, успокоит часть индустрии.
Что это значит для разработчиков и компаний
С введением указа разработчики могут столкнуться с новыми требованиями и сроками, что потенциально повлияет на гибкость и скорость их работы. Большая часть возможностей для внедрения ИИ в различные сферы может оказаться под жестким контролем. Например, министерства будут иметь возможность использовать "covered frontier models" для защиты критически важной инфраструктуры, включая мелкие банки и больницы. Это показывает, что требования к кибербезопасности становятся куда более значительными, особенно в контексте современных угроз.
Следующий шаг заключается в создании координационного центра Минфина по кибербезопасности, который будет отвечать за согласование поиска уязвимостей и распространение патчей в сотрудничестве с индустрией. Разработчиков это коснется прямо, так как необходимо будет учитывать новые нормы в своих бизнес-моделях.