AI-агенты, создаваемые сотрудниками, становятся серьезной угрозой безопасности для компаний. Проблема заключается не только в утечках данных, но и в неправильном контроле доступа к критическим системам.
Изменение угрозы в области безопасности
Ранее главной проблемой была утечка данных, когда сотрудники копировали чувствительную информацию в публичные AI-инструменты. Но сейчас ситуация изменилась: AI-агенты могут выполнять действия в системах компаний без разрешения. Например, агент может изменять настройки или удалять данные, имея доступ к учетным записям, которые никто не проверял.
Согласно исследованию Token Security и Cloud Security Alliance, количество таких агентов резко растет. Эти агенты могут одновременно подключаться к системам вроде Salesforce или GitHub и использовать хранимые учетные данные для выполнения операций без контроля. Потенциальные последствия включают утечку данных и несанкционированные изменения.
Почему традиционные меры контроля не работают
Существующие средства безопасности заточены под контроль за действиями человека. Политики управления доступом и правила предотвращения утечек данных предполагают предсказуемое поведение и четкие пути доступа. AI-агенты нарушают эти предпосылки, получая права доступа, которые в итоге могут стать постоянными, когда разработчики изначально предоставляют широкие разрешения.
По данным исследований, ограничения на доступ к публичным AI-доменам не сработают, когда агент уже получил учетные данные. Механизмы автоматического исправления неучетных идентификаторов могли бы устранить эту проблему, однако их применение остается затруднённым.
Что это значит для компаний
Для российских компаний это сигнал к пересмотру подходов к безопасности. Даже если ваша организация использует AI, важно понимать, какие агенты создаются, кем и с какими правами доступа. Это особенно актуально на фоне растущей автоматизации процессов и внедрения AI в критически важные системы.
Представители информационной безопасности должны обращать внимание на выявление и контроль за AI-агентами, чтобы не допустить утечек и злоупотреблений в будущем.
Согласно прогнозам, компании, которые не адаптируют свои системы контроля доступа, могут столкнуться с серьезными угрозами безопасности в ближайшие 1-2 года.