Исследование Ivanti показало, что 85% IT-специалистов уверены в том, что у каждого AI-агента есть владельцы. На деле однако только 42% могут указать, кто именно отвечает за эти агенты, что поднимает вопросы о безопасности и управлении данными в организациях.
Контекст происходящего
В исследовании приняли участие 3900 сотрудников из шести стран, и было выявлено, что руководители организаций почти в два раза чаще скрывают использование AI по сравнению с обычными работниками — 42% против 23%. Из тех, кто скрывает использование, 52% делают это для получения «секретного преимущества».
По данным CrowdStrike, было зафиксировано 1800 AI-приложений, работающих на 160 млн конечных точках. Это данные от поставщиков, и их нельзя верифицировать независимыми источниками. Однако это подчеркивает масштабы проблемы, так как отсутствует прозрачность в управлении технологиями.
Проблемы с управлением AI
Многие CIO и CISO, опрошенные VentureBeat, выразили сомнения по поводу возможности обнаружения «теневого AI». К примеру, CEO Menlo Security Билл Роббинс упомянул, что в одном из крупнейших банков США управление AI происходит не через обнаружение, а через сдерживание. В условиях, когда появляются до 50 новых AI-приложений ежедневно, задача становится практически невыполнимой.
При этом, согласно данным Ivanti, лишь 24% сотрудников компаний с AI-политиками говорят, что эти политики соблюдаются «очень последовательно». Эксперты уверены, что gap в управлении остается, так как многие риски не имеют четкой связи с бизнесом.
Влияние на безопасность данных
Для российских и СНГ-компаний это сигнал о необходимости пересмотра подходов к управлению AI-системами. Важно понимать, что неясные позиции по поводу владения AI-агентами могут привести к утечкам данных и юридическим последствиям. Рекомендуется разработать четкие процедуры и политики для увеличения прозрачности в этой области.
Следующее решение проблемы — внедрение более строгих регуляций по управлению AI и пониманию его воздействия на бизнес-процессы. Как показало исследование, текущие подходы не обеспечивают достаточный уровень безопасности и контроля.