CEO Anthropic Дарио Амодеи призвал к созданию новых государственных норм для регулирования мощных AI, уподобив процесс авиабизнесу, регулируемому FAA. Это необходимо для обеспечения общественной безопасности на фоне растущих возможностей и потенциальных рисков AI.
Предпосылки для обращения
В своем новом эссе «Политика по экспоненциальному AI» Амодеи представил два основных документов: «Передовая AI-рамка», нацеленную на катастрофические риски моделей, и «Экономическую политику», касающуюся вытеснения рабочей силы. На фоне выпуска самой мощной модели Claude Fable 5 такая инициатива выглядит особенно актуально — вкупе с новой версией Claude Mythos 5, обладающей расширенными киберзащитными функциями.
Требования к AI: тесты и аудит
Амадеи сообщил, что мощные AI, работающие на более чем 10^25 операций с плавающей точкой или созданные компаниями с более чем $500 млн дохода от AI, должны проходить обязательное тестирование третьими лицами. В случае выявления серьезных рисков, таких как угроза безопасности или автономии, правительство сможет блокировать или задерживать их выпуск. Это меняет подход к разработке и внедрению AI для бизнеса.
Что это значит для бизнеса
Для компаний, использующих базовые модели AI в ключевой инфраструктуре, это означает необходимость учитывать возможные изменения в условиях поставок. Если ожидаемая модель выйдет с задержкой из-за проверки со стороны государственных органов или будет отозвана, бизнесу потребуется адаптироваться к новым условиям.
Угрозы безопасности AI
Анатомику этого обращения также подхлестнули недавние инциденты с киберугрозами, связанными с AI. Амодеи отмечает, что защита моделей от внешних и внутренних угроз становится приоритетной задачей для разработчиков. Эффективная защита поможет избежать атак и недобросовестного использования технологий.
Клиенты и разработчики в России и СНГ должны подготовиться к возможному ужесточению контроля над AI. Это не только изменит правила игры на рынке, но и приведет к требует новых подходов в заведение и интеграцию AI в бизнес-процессы. Изменения, возможно, не затронут безопасность на уровне стартапов, но Corporations с внедрением AI должны ждать новой волны регуляций.
Следующий шаг — мониторинг реакции правительств на эти инициативы и возможные изменения в стратегии разработки AI в ближайшие месяцы.