Cisco провела 6,986 многоходовых атак на 15 моделей AI и зафиксировала успех атакеров в 88,3% случаев. Эти данные озвучила Эми Чанг, руководитель направления исследований по безопасности AI в Cisco, на панельной дискуссии в рамках VB Transform 2026. Такой высокий процент успешных атак сигнализирует о том, что компании, продолжающие использовать односторонние тестирования, рискуют незащищённостью своих систем.
Актуальные угрозы для бизнеса
По данным опроса Pulse от VentureBeat, 54% респондентов из корпоративного сектора сталкивались с инцидентами безопасности (18% — с подтверждёнными атаками, 36% — с инцидентами, предотвращёнными до нанесения ущерба). При этом только 32% компаний дают каждому агенту управляемую идентичность, а 30% — изолируют высокорисковые агенты в песочницах. Большинство фирм (82%) полагаются на контролирующие меры от поставщиков и гипермасштабируемых компаний для обеспечения безопасности своих систем.
Как Cisco тестировала модели
Эми Чанг, имеющая почти 20-летний опыт в кибербезопасности, объяснила методологию проведения тестов. Результаты её исследования, проведённого совместно с Николасом Конли, охватывают 30,090 односторонних запросов и 6,986 многоходовых атак на протестированные модели. Процент успешности многоходовых атак варьировался от 7,89% до 88,3%, и каждая модель оказалась подвержена серьёзным угрозам.
«Если вы не понимаете, как модели уязвимы к различным типам атак, то не можете учесть, где находятся точки отказа», — отметила Чанг, подчеркивая, что многоходовая атака более реалистична для взаимодействия пользователей с приложениями.
Рекомендации для защиты
Чанг рекомендует внедрение стартовой точки для CISOs, такая как интегрированная платформа AI Security от Cisco, которая показывает, как AI может быть уязвим по всему жизненному циклу, начиная с первой модальности до цепочки поставок. Это поможет командам работать с реальными инцидентами, прослеживая, как каждая атака была осуществлена и используя эти данные для формирования стратегии защиты.
Для российских компаний, занимающихся разработкой AI, это сигнал о необходимости пересмотра подходов к тестированию безопасности. Учитывая высокий риск, важно создавать более сложные и реалистичные сценарии тестирования, чтобы минимизировать вероятность успешных атак.
Следующий шаг для компаний — присмотреться к внедрению многоходовых сценариев в практику тестирования безопасности.