Губернатор Калифорнии Гэвин Ньюсом объявил о планах внедрить механизм «выключателя» для систем искусственного интеллекта. Это решение актуально в условиях отсутствия активных действий конгресса по регулированию ИИ.
Контекст инициативы
Согласно недавним исследованиям, вероятность того, что ИИ может угрожать человечеству, превышает 10% в течение следующего десятилетия. Это обстоятельство, наряду с недостаточной законодательной базой в США, побудило Ньюсома действовать. Он издал новый исполнительный приказ, направленный на создание экспертной группы, которая должна представить рекомендации по усилению мер безопасности в области ИИ в течение двух месяцев.
Ключевые пункты исполнительного приказа
План включает необходимость от организаций по разработке ИИ внедрить независимые команды для регулярных проверок. Кроме того, в предложения входит создание обязательного механизма, позволяющего проверять работоспособность «выключателя», а также обязательная отчетность по инцидентам потери контроля, столь актуальная после недавней атаки на платформу Hugging Face от OpenAI.
Ньюсом также отметил, что его штат не собирается ждать действий федерального правительства, указывая на «абсолютный провал» национального контроля за ИИ, что должно насторожить американцев.
Значение для рынка ИИ
Для разработчиков ИИ и технологических компаний полученные рекомендации могут стать основой для более строгого регулирования на уровне штатов и, возможно, всего государства. Перспективы введения таких мер уже побудили некоторые компании начать пересмотр своих систем безопасности и процедур отчетности.
Готовность Калифорнии действовать в сфере регулирования ИИ может повлиять на глобальные тренды в области законодательства и безопасности технологий. Если Госдепартамент и другие штаты примут аналогичные меры, это может затормозить развитие некоторых рискованных ИИ инициатив.
Следующий шаг — работа группы экспертов, которая оценит текущие стандарты и подготовит конкретные рекомендации по усилению контроля за ИИ.