США потребовали от Anthropic отключить доступ к своим передовым моделям искусственного интеллекта Fable 5 и Mythos 5 для иностранцев, ссылаясь на вопросы национальной безопасности. Сообщение от правительства поступило 13 июня, и компания уже заявила о планах «незамедлительно отключить» доступ для всех пользователей за пределами страны.
Контекст ситуации на рынке ИИ
Всего через несколько дней после запуска Fable 5 и Mythos 5, использование которых подразумевает исправление ранее известных уязвимостей в кибербезопасности, Anthropic столкнулась с неожиданными требованиями. В компании считают, что произошло недоразумение и работают над восстановлением доступа как можно быстрее. Важно отметить, что другие модели компании, такие как Claude, продолжат свою работу без ограничений.
Детали решений и возможные последствия
По словам Anthropic, правительство утверждает, что ему стало известно о методах обхода защиты моделей. Анализ показал, что это касается небольшой группы простых уязвимостей, которые также поддаются обнаружению другими общедоступными моделями. Однако, к примеру, Mythos 5 остается доступным для группы специалистов в области киберзащиты.
Компания подчеркивает наличие сильных защитных механизмов против случайного использования своих моделей для кибератак. Эти защитные меры основываются на детекторах, которые блокируют потенциальные злоупотребления и попытки обхода. В частности, Mythos модели способны быстро превращать недавно выявленные уязвимости в эксплуатационные коды, что значительно увеличивает риск для безопасности.
Влияние на российский рынок технологий
Для разработчиков в России это сигнал к тому, что даже передовые технологии могут оказаться под давлением государственных регуляторов. Ограничение на экспорт таких высокотехнологичных решений как Fable 5 и Mythos 5 означает необходимость искать альтернативы или адаптировать существующие технологии. На российском рынке аналогичных технологий сейчас не так много, что может создать дополнительные трудности для разработчиков, работающим с ИИ.
В ближайших перспективах ожидается, что Anthropic предложит новые пояснения относительно защиты своих моделей. Если ситуация не изменится, это может повлиять на будущее развитие кибербезопасности в глобальном масштабе.