86% специалистов по информационной безопасности считают, что для нормальной работы с ИИ нужны отдельные инструменты управления рисками. При этом почти три четверти опрошенных одновременно опасаются угроз от ChatGPT и других генеративных систем и подозревают, что сотрудники уже используют такие сервисы в рабочих задачах без полного согласования. Для тех, кто отвечает за ИБ, разработку и внутренние политики, это не академический спор про будущее, а вполне приземлённый вопрос: кто именно пустил ИИ в контур компании и кто теперь будет отвечать за последствия.
Об этом, по данным Dark Reading, говорится в свежем материале по итогам опроса о генеративном ИИ в корпоративной среде. Картина получилась неприятно узнаваемой: ИИ в кибербезопасности одновременно воспринимают как усилитель защиты и как новый класс проблем, который уже заехал в инфраструктуру раньше, чем компании успели придумать правила игры. Восторг у отрасли есть, но с оговорками. И именно эти оговорки, судя по цифрам, интересуют рынок куда больше, чем традиционные презентации про рост эффективности.
Самый показательный фрагмент исследования касается не технологий, а дисциплины внутри компаний. Почти три четверти респондентов говорят, что их тревожат риски безопасности и надёжности, связанные с публичными GenAI-инструментами. Примерно столько же считают, что сотрудники уже используют внешние сервисы для рабочих задач, даже если это не до конца разрешено или не оформлено правилами. Иначе говоря, ИИ в кибербезопасности стал не только темой для SOC, CISO и архитекторов, но и проблемой теневого внедрения: инструмент уже применяется, а политика, аудит и контроль доступа ещё догоняют происходящее.
Дальше начинается любимая корпоративная игра под названием «чья это зона ответственности». 30% опрошенных говорят, что внедрение и управление GenAI лежит у них на ИТ-подразделении. Ещё 25% указывают на отдельную AI-команду, а 17% относят эту работу напрямую к кибербезопасности. Но если речь идёт не о запуске, а об ответственности за безопасность и управление рисками, лидер меняется: 27% возлагают это именно на ИБ-функцию, 21% — на выделенную AI-группу. Такая разбивка хорошо показывает реальность многих компаний: запускать новые инструменты готовы быстро, а вот контур ответственности по ним остаётся размытым. Для бизнеса это плохая новость, потому что на практике размытая ответственность почти всегда означает размытые процессы эскалации, проверки и принятия решений.
Не менее важен блок про то, как именно компании собираются снижать риски. Единого рецепта не нашлось. 43% участников опроса считают приоритетом AI governance, 42% делают ставку на правила и политику работы с данными, ещё 42% — на проверку ответов, которые возвращают генеративные системы, чтобы отсекать нежелательные результаты. 40% говорят о необходимости отдельной программы безопасности приложений для ИИ. Даже здесь видно, что рынок пока не выбрал одну доминирующую модель защиты. Кто-то идёт от управления, кто-то от данных, кто-то от контроля результата. Это логично: GenAI ломает привычную схему, где можно было просто поставить ещё один защитный слой и считать вопрос закрытым.
Отдельно бросается в глаза довольно земной вывод: 57% респондентов считают, что компаниям нужно обучение сотрудников ответственным практикам использования ИИ. На фоне бесконечных разговоров о моделях, вычислениях и автоматизации этот пункт звучит почти старомодно, но именно он может оказаться самым прикладным. Потому что значительная часть риска здесь рождается не в модели как таковой, а в поведении человека, который копирует в внешний сервис чувствительные данные, просит систему подготовить рабочий документ или доверяет ответу без проверки. Один из участников опроса сформулировал это совсем без корпоративного лака: хотелось бы, чтобы эти проклятые юнцы лучше понимали, что такое риск. Ирония в том, что проблема вряд ли ограничивается «юнцами»: соблазн срезать угол при помощи удобного AI-инструмента одинаково велик почти в любой роли.
Есть и ещё одна причина, почему ИИ в кибербезопасности вызывает такую нервную реакцию. Главные опасения участников опроса распределились сразу по нескольким фронтам, и ни один не получил подавляющего большинства. 47% называют ключевой проблемой неопределённость с тем, как требования регуляторов применяются к GenAI. 46% указывают на непрозрачность сторонних генеративных сервисов. 43% говорят об отсутствии консенсуса по внутренним правилам и рекомендациям, 39% — о проблемах управления данными. Это важный сигнал для разработчиков, продуктовых команд и ИТ-руководителей: рынок боится не только самого факта использования ИИ, но и того, что у компаний нет нормального способа объяснить, как этот ИИ устроен, какие данные он видит, где они обрабатываются и по каким правилам потом живёт результат.
Для русскоязычной ИТ-аудитории здесь, по сути, три прикладных вывода. Первый: если в компании уже обсуждают ИИ только как инструмент повышения продуктивности, значит половина разговора просто пропущена. Второй: ответственность за GenAI нельзя оставлять в серой зоне между ИТ, безопасностью, юристами и продуктом, иначе первый же спорный кейс быстро станет организационной аварией. Третий: политика без технических ограничений не работает, но и одни технические запреты без понятных правил тоже не спасают. Сотрудники всё равно находят удобный сервис быстрее, чем комитет успевает согласовать формулировки.
На этом фоне главный вопрос уже не в том, полезен ли ИИ сам по себе. Рынок, кажется, с этим более-менее определился: польза есть, и заметная. Нерешённым остаётся другое: смогут ли компании встроить ИИ в кибербезопасность как управляемый инструмент, а не как ещё один источник хаоса, который сначала ускоряет работу, а потом ускоряет инциденты.