Президент США Дональд Трамп подписал новый указ, который требует от AI-компаний представления своих моделей для оценки правительству до их релиза. Это необходимо для повышения безопасности и защиты критической инфраструктуры страны.
Что стало причиной нового указа
В указе говорится, что успех американской индустрии AI во многом обусловлен свободой от чрезмерных регулирующих мер. Однако признание рисков, связанных с новыми AI-технологиями, также стало важным фактором. Соответственно, несколько федеральных агентств должны разработать рамки для оценки кибербезопасности AI-моделей.
Хотя компании смогут свободно решать, делиться ли своими моделями с правительством до выхода, это решение может сопровождаться определенными гарантиями конфиденциальности. Интересно, что новые правила следуют за отменой предыдущей инициативы, которая предполагала более жесткие рамки взаимодействия.
Почему это важно для индустрии
Несмотря на то что новые правила предполагают добровольный характер, они открывают новые горизонты для взаимодействия между частным сектором и государством в области безопасности. Например, Google и Microsoft уже согласились на проверку своих проектов перед публичным релизом через Центр стандартов AI и инноваций министерства торговли США.
Согласно данным The New York Times, компании теперь должны предоставлять свои модели для оценки за 30 дней до релиза. Ранее планировалось сделать это за 14 до 90 дней, что также указывает на определенное смягчение требований.
Что это значит для русскоязычной аудитории
Необходимость оценки AI-моделей перед их выходом может повлиять на международный рынок, включая российский, где развитие AI-технологий стремительно растет. Возможно, российские компании должны будут учитывать аналогичные требования, если будут стремиться выходить на международные рынки.
Цифры по киберугрозам в секторе AI продолжают расти: недавняя оценка Anthropic выявила «тысячи уязвимостей» в распространенных операционных системах и веб-браузерах. Если подобные меры не будут приняты, это может привести к серьезным последствиям для безопасности пользователей.
Следующим шагом будет подготовка соответствующей инфраструктуры и механизмов для защиты AI-систем в США, что может спровоцировать аналогичные инициативы и в других странах.