Согласно анализу 108 компаний, 88% из них за последний год столкнулись с инцидентами, связанными с угрозами безопасности от ИИ-агентов. Эта ситуация подчеркивает серьезные проблемы безопасности в отрасли, где 82% руководителей уверены в эффективности своих политик защиты от нежелательных действий ИИ.
Состояние безопасности ИИ-агентов
Недавние инциденты в таких компаниях, как Meta, где ИИ-агент прошел все проверки идентичности, но допустил утечку данных, и Mercor, пострадавшей от атаки на цепочку поставок, выявили общие структурные недостатки. Опрос показал, что только 21% организаций имеют реальное время видимости действий своих ИИ-агентов, что углубляет риски.
Главные угрозы безопасности
По отчету Arkose Labs, 97% специалистов по безопасности предсказывают серьезные инциденты с ИИ в ближайшие 12 месяцев. При этом только 6% бюджетов, выделяемых на безопасность, тратится на нейтрализацию этих рисков. Мониторинговые панели, созданные для работы с человеческими процессами, не могут эффективно управлять угрозами, возникающими на скорости машинного обучения.
В исследовании также были выделены основные риски, связанные с ИИ-агентами, среди которых неправильное использование инструментов, агентские уязвимости в цепочке поставок и эксплуатация доверия между человеком и агентом.
Рекомендации для компаний
Для разработчиков и специалистов по безопасности критично важно инвестировать в мониторинг ИИ-агентов. Без активного контроля и изоляции процессы, связанные с ИИ, остаются уязвимыми для угроз. Учитывая, что более 80% компаний уже испытывают проблемы с безопасностью, оперативные меры могут спасти бизнес.