Согласно исследованию Deloitte, около 74% компаний планируют внедрение агентных AI в ближайшие два года, однако лишь 21% из них имеют зрелую систему управления для этих автономных агентов. Это ставит под угрозу безопасность этих и может привести к утечкам конфиденциальной информации.
Растущая угроза при использовании AI-агентов
Аналитики Deloitte предупреждают: как только AI-агенты начнут работать в компаниях, они создадут дополнительные уязвимости для кибератак. Нередко не-человеческие идентичности (NHI) начинают доминировать над человеческими. В таком контексте полноценное управление и усиленная защита становятся необходимостью. В компаний, где агентные AI предполагаются для масштабирования, необходимо создать эффективные контрольные механизмы, способные предотвратить уязвимости.Эти из отчета показывают, что 73% руководителей пока больше всего беспокоят вопросы защиты этих и конфиденциальности, а 50% обращают внимание на соблюдение юридических и регуляторных стандартов. Следовательно, внедрение AI-агентов несет не только инновационные возможности, но и необходимость в дополнительных усилиях по обеспечению безопасности.
Создание эффективного контрольного механизма
По словам Эндрю Рафлы, представителя кибер-практики Deloitte, необходима централизованная система контроля, которая регулирует доступ агентов, их разрешения и используемые ими инструменты. "Без такой системы взаимодействие с агентами становится непредсказуемым и рискованным", — подчеркивает он. Если компании не могут чётко определить, какие действия выполняли агенты и от чьего имени, это может создать большую угрозу для безопасности.Говоря о стратегии управления, Рафла отмечает, что наличие чётких ответов и понимание безопасности агентных AI критически важно: "Мы должны обеспечить, чтобы понятие управления было не просто идеей, а практическим доводом для работы [агентов]".
Проблемы для компаний и их решения
Таким образом, компании, которые планируют использовать AI-агентов, должны серьезно подойти к вопросу управления и безопасности. В противном случае они рискуют столкнуться с непредсказуемыми сбоями и проблемами, которые могут негативно сказаться на их бизнесе. Российские компании находятся на пороге внедрения AI, и правильная организация процессов управления может служить залогом безопасного роста.Следующий шаг для предприятий — проработка стратегии управления AI-агентами и интеграция необходимых протоколов для соблюдения безопасности в законодательства и защиты этих в 2024 году.