Почти 77% ИТ-менеджеров сообщают, что контроль над их ИИ-агентами утерян. Это создаёт серьезные уязвимости в безопасности и снижает производительность.
Ситуация на рынке ИИ-агентов
По этим опроса Rubrik ZeroLabs, лишь 23% ИТ-менеджеров уверены в полном контроле над агентами в своих организациях. Более того, 81% респондентов утверждают, что на мониторинг и аудит агентов уходит больше времени, чем ожидалось, что полностью противоречит изначальной цели повышения эффективности работы.
Все большее количество ИИ-агентов, появляющихся в компаниях, похоже, — следствием недостатка контроля. Исследование показывает, что «люди часто отключают VPN или обходят меры безопасности, чтобы быстро создать агентов-ассистентов» — аналитики обращают внимание на растущий объем несанкционированных ИИ-приложений как внутри компаний, так и от сторонних поставщиков.
Возрастающая угроза спрэда ИИ-агентов
Ситуация напоминает ранние дни облачных технологий, когда команды самостоятельно создавали облачные решения без единого контроля. Kriti Faujdar из Microsoft отметила, что «это приводит к фрагментации, несогласованному управлению и скрытым уязвимостям безопасности». В результате 86% ИТ-менеджеров ожидают, что распространение агентов опередит возможности защиты в течение следующего года.
Кроме того, недостаток возможностей по отмене действий агентов делает управление ими ещё более затруднительным. Ник Kale, инженер из Coalition for Secure AI, отмечает, что «любой ИТ-отдел с доступом к API может создать агента за несколько часов», что на практике приводит к множеству агентов с перекрывающимися правами и отсутствием единой модели идентификации.
Управление ИИ-агентами: что делать?
Опрос выявил необходимость тщательно отслеживать действия агентов после их внедрения. Это включает в себя такие ключевые вопросы, как: что именно делал агент? Почему он так поступал? Какие эти он затрагивал? Как оценивать успех его действий? Учитывая текущие тенденции, управление ИИ-агентами требует от ИТ-менеджеров новой степени дисциплины и проактивного подхода к мониторингу.
Что это значит для бизнеса
Российские компании должны относиться к ИИ-агентам с осторожностью. Нехватка контроля может привести к утечкам этих и потерям в производительности. Поэтому критически важно внедрять жесткие меры безопасности и чёткие протоколы для работы с ИИ-агентами.
Компании, стремящиеся улучшить эффективность благодаря ИИ, должны учесть, что без должного управления они могут оказаться в ситуации, когда ИИ станет не помощником, а обузой.