Hugging Face столкнулся с уникальной кибератакой, когда автономный AI-агент незаметно атаковал их системы в течение выходных. Это инцидент важен, так как он показывает, как современные протоколы безопасности могут защищать злоумышленников, а не защитников.
Предпосылки атаки
16 июля Hugging Face сообщил о компрометации своей инфраструктуры, когда AI-агент получил несанкционированный доступ к внутренним данным и учетным данным сервисов. Компания уверила, что её программное обеспечение не было подвергнуто атаке, а совместимо с кодом и моделями.
Хотя атака была серьезной, сам инцидент не уникален для Hugging Face. Как отмечает Меррит Бэйер, бывший заместитель CISO AWS, «коммерческие AI-модели в основном оптимизированы для предотвращения злоупотреблений и часто не способны различать, кто является запрашивающим: злоумышленник или защитник».
Технические детали инцидента
Атака началась с загрузки вредоносного набора данных, который активировал выполнение кода через два пути: удаленный загрузчик кода и уязвимость в конфигурации набора данных. Этот подход стал возможен благодаря тому, что большинство команд безопасности считают данные в своих пайплайнах доверенными и не оценивают их как потенциальную угрозу.
AI-агент использовал одиночный доступ, чтобы перемещаться по инфраструктуре Hugging Face, собирая учетные данные через выходные. Поскольку обработка соответствующей информации не была защищена от атаки, агент смог реализовать тысячи действий за этот период, используя «песочницы», размещенные на общедоступных сервисах.
Обратная связь и последствия для безопасности
Команда расследования столкнулась с трудностью анализа событий, так как запросы на анализ были заблокированы защитными системами. Бэйер упоминает, что «некоторые команды безопасности используют команды, которые в любой момент могут быть расценены как атаки, что приводит к блокировке». Это подчеркивает важность адаптации AI в процессы безопасности, чтобы предотвратить такие сценарии.
Для российских ИТ-команд это означает необходимость пересмотреть подходы к использованию AI в области безопасности. Атака позволяет понять, что автоматизация процессов анализа и безопасности должна учитываться настолько же серьезно, как и защита от традиционных угроз.
В дальнейшем Hugging Face продолжит оценивать последствия инцидента и связываться с партнерами и клиентами, так как безопасность данных остается на первом плане.