Администрация Трампа рассматривает введение обязательного тестирования AI-моделей перед их выходом на рынок. Это решение может серьезно изменить правила игры в мире высоких технологий, особенно для компаний, разрабатывающих AI-продукты.
Обстоятельства обсуждения
Идея создания рабочей группы для мониторинга AI-моделей появилась на фоне неудач в других аспектах регуляции технологий. В частности, после ухода Давида Сакса с поста регулирующего специалиста по AI в марте, команда Трампа испытывает недостаток в четкой стратегии по этой области. В планах — собрать экспертов из технической сферы и государственных служб для разработки эффективных механизмов контроля, согласно данным источника.
Проблемы с Anthropic
Одним из фактов, который подтолкнул к этой инициативе, стала ситуация вокруг модели Mythos от компании Anthropic. Она была охарактеризована как слишком опасная для общего доступа из-за способности выявлять тысячи критических уязвимостей в программном обеспечении. Это привлекло внимание правительства к возможным рискам, связанным с AI, и, к тому же, стало следствием конфликта между Anthropic и Пентагоном.
Нарастающий антагонизм между Anthropic и властями также связан с тем, что Пентагон лишил компанию госзаказа на $200 миллионов, объявив ее рискованной для цепочки поставок. Это несомненно привело к беспокойству о безопасности использования передовых технологий в военных целях.
Как это скажется на индустрии?
Если новая политика будет утверждена, это обеспечит правительству ранний доступ к AI-моделям, что может остановить массовый доступ к множеству технологий до завершения тестирования. Все это создает серьёзный прецедент для компаний — они могут столкнуться с задержками в выходе на рынок.
Для российских разработчиков AI текущие события сигнализируют о росте потенциальных нормативных препятствий, а также необходимости адаптации к новым требованиям безопасности. Это может вызвать серьёзные изменения в подходах к разработке и внедрению AI-решений.
Следующий шаг заключается в необходимости следить за дальнейшим развитием ситуации — ожидается, что в ближайшие месяцы администрация даст больше разъяснений о вводимых инициативах.