54% компаний уже столкнулись с инцидентами безопасности, связанными с AI-агентами. Это настораживающий сигнал, так как многие предприятия по-прежнему позволяют агентам делиться учётными данными, повышая риски утечек информации.
Текущая ситуация на рынке
Согласно исследованию, проведённому VentureBeat среди 107 предприятий, более половины компаний уже имели подтверждённые инциденты или почти инциденты с AI-агентами. Это демонстрирует огромный разрыв в безопасности между предоставляемой автономией агентам и контролем доступа к данным, который у многих организаций недостаточен. Лишь 32% компаний предоставляют каждому агенту индивидуальную управляемую идентичность, что оставляет остальных агентов под ударом, когда они используют общие учётные данные.Кроме того, всего 30% респондентов изолируют своих самых рискованных агентов в контейнеры для ограничения воздействия в случае нарушения. Это подчеркивает необходимость пересмотра подходов к безопасности, особенно в условиях растущих угроз со стороны AI-атакам.
Причины появления разрыва в безопасности
Основной причиной данной ситуации является преобладание поставляемых инструментов безопасности, таких как защитные меры от OpenAI и платформ облачных решений от Google и Microsoft. Хотя удовлетворенность уровнями защиты высокая (4,2 из 5), трасса к повышению безопасности остаётся недостаточной. В то время как только треть организаций считает свои инструменты защиты адекватными по сравнению с AI-угрозами, большинство из них планируют обновить свои системы в ближайший год.Аналитики ожидают сокращения расходов на безопасность AI-агентов, так как они занимают лишь небольшую долю общих затрат на безопасность. Эффективное управление именно этими инструментами влияло на общее восприятие надежности AI-агентов в бизнесе.
Практические выводы для компаний
Для российских компаний затрата времени и ресурсов на укрепление безопасности AI-агентов становится критически важной. Учитывая, что использование AI-технологий по всему миру продолжает расти, недостаток в управлении идентичностью и доступом может привести к серьезным инцидентам. Рекомендуется внедрение индивидуальных идентификаторов для всех агентов и регулярная проверка их прав доступа, чтобы минимизировать возможные последствия от утечки данных.Следующая новость — в ближайшем будущем возможны изменения в правилах и стандартах безопасности, что может повлиять на способы внедрения AI-технологий в бизнес-процессы.