55% сотрудников компаний используют AI-инструменты, которые не были одобрены их организациями. Такой подход создает серьезные угрозы безопасности этих и увеличивает риск утечек информации.
Тенденция без контроля
По этим опроса Salesforce, многие работники предпочитают использовать простые и доступные AI-инструменты для упрощения повседневных задач без предварительного согласования с ИТ-отделом. Это явление известно как «shadow AI» и связано с отсутствием четких политик по использованию AI в организациях. Ситуацию усугубляет быстрое распространение генеративных AI-систем, таких как ChatGPT, которые могут обработать и сохранить чувствительные эти без должного контроля.
Увеличение уязвимостей и рисков
Когда сотрудники интегрируют несанкционированные AI-инструменты или APIs в их рабочие процессы, риски утечки этих возрастают. Например, это может произойти, когда разработчики случайно передают внутренние эти или кодовые сегменты с конфиденциальными данными, такими как пароли или токены, в сторонние AI-системы. Как только такие эти попадают на платформы, их использование становится вне контроля, что может привести к безвозвратным утечкам.
Без четкого мониторинга и аудита третьи стороны, работающие с такими данными, становятся непредсказуемыми. Особенно это опасно в контексте соблюдения правил GDPR и HIPAA, где такие действия могут привести к юридическим последствиям и штрафам.
Проблемы с атаками и интеграцией
Несанкционированные AI-инструменты также расширяют поверхности атак. Поскольку многие работники выходят за пределы установленной безопасности, вшитые уязвимости в неорганизованных приложениях, которые используют несогласованные плагины и API, могут служить целями для киберпреступников. С каждым новым AI-инструментом, подключенным к сети, риски для организаций только увеличиваются.
Что делать организациям?
Компании должны принять меры по управлению рисками, связанными с несанкционированными AI инструментами. Это включает создание четких политик о допустимом использовании технологий и обучение сотрудников рискам, связанным с утечками и обменом данными. Также важен контроль над интеграцией AI в рабочие процессы с целью обеспечения безопасности данных.
Перспективы на будущее таковы: компании должны заняться формированием комплексных стратегий управления AI, чтобы минимизировать риски, пока shadow AI не станет серьезной угрозой для их бизнеса.