26% руководителей по информационной безопасности за последние 12 месяцев задумывались об уходе с должности, и главный ускоритель этого настроения — риски ИИ. Для русскоязычного ИТ-рынка сигнал неприятно знакомый: бизнес бежит внедрять генеративные модели и агентов, а разбираться с новой поверхностью атаки, юридическими последствиями и теневым использованием ИИ в итоге приходится службе безопасности.
По данным Dark Reading, давление на CISO выросло не только из-за самого факта массового внедрения ИИ, но и из-за того, что ответственность за контроль этой зоны быстро стала персональной. Из статьи следует, что 96% CISO теперь отвечают за управление ИИ и связанными с ним рисками, а 78% беспокоятся о личной ответственности в случае серьезного инцидента. Это уже не сюжет про «еще один технологический тренд», а история о том, как на одного топ-менеджера одновременно навешивают комплаенс, инцидент-менеджмент, внутреннюю политику и объяснение совету директоров, почему очередной бот с доступом к корпоративным данным оказался не такой уж безобидной игрушкой.
Часть цифр Dark Reading берет из отчета Splunk The CISO Report: From Risk to Resilience in the AI Era и связанных с ним опросов. Полевая CISO Splunk Кирсти Пейн в недавней колонке связала рост тревожности с двумя факторами: страхом юридических последствий и усложнением работы из-за форсированного внедрения ИИ. Логика здесь довольно прямолинейная. С одной стороны, компании открывают доступ к новым инструментам сотрудникам, продуктовым командам и подрядчикам. С другой — у атакующих тоже появляется более дешевый и быстрый инструментарий. Майкл Фэннинг, CISO Splunk, формулирует это без особой драматургии: порог входа для менее квалифицированных злоумышленников снижается, а ущерб они по-прежнему могут нанести вполне взрослый.
Отдельная проблема — скорость, с которой ИИ попадает в бизнес-процессы. В статье приводится июньский опрос, по которому две трети специалистов по безопасности считают, что их работа стала сложнее, чем два года назад. Причины предсказуемые: перегрузка, необходимость разбираться в новых технологиях и тот самый shadow AI, когда сотрудники используют ИИ-инструменты без нормального согласования с ИБ. Для российских компаний термин можно не переводить: это уже стандартная боль для тех, кто однажды обнаруживал, что внутренние документы, код или клиентские данные кто-то прогнал через внешний сервис «просто для ускорения». На этом фоне тезис TJ Marlin из Guardrail Technologies звучит почти бытово: раньше компании боялись, что кто-то войдет через черный ход, а теперь сами распахивают парадную дверь для ИИ.
Есть и менее очевидный слой этой истории: разрыв между бизнесом и безопасностью. По словам Фэннинга, 85% CISO называют слабую киберграмотность руководства главным препятствием. И это, пожалуй, одна из самых дорогих проблем во всей цепочке. Когда совет директоров и продуктовый блок воспринимают ИИ как обязательную галочку в стратегии роста, а служба безопасности — как набор неотстроенных рисков, CISO быстро превращается в человека, который либо тормозит запуск, либо потом подписывается под последствиями. Причем речь уже не только о классических утечках данных. Фэннинг отдельно указывает на необходимость понимать, как ИИ-агенты вызывают внешние инструменты, как они аутентифицируются и к каким системам подключаются. Для инженеров и архитекторов это важная ремарка: угроза теперь часто лежит не в модели как таковой, а в ее связях с корпоративным контуром.
При этом картина не сводится к очередному «ИИ все испортил». В материале есть и вторая сторона: те же команды безопасности уже используют ИИ как средство справляться с растущим объемом событий. По данным Splunk, 92% CISO считают, что ИИ помогает просматривать больше инцидентов, а 89% — лучше сопоставлять несколько потоков данных в единую аналитику. Еще один опрос, на который ссылается Dark Reading, показал, что девять из десяти аналитиков SOC заметили положительное влияние ИИ на свою нагрузку. Иными словами, риски ИИ для CISO растут одновременно с пользой ИИ для SOC. Довольно характерная корпоративная шизофрения: один и тот же стек и разгружает команду, и добавляет ей новые сценарии отказа.
Для разработчиков и продуктовых команд вывод здесь прикладной. Если ИИ-функция, агент или интеграция приходят в прод без заранее определенных правил доступа, журналирования, разграничения данных и понятной схемы эскалации, то платить за эту скорость будет не абстрактная «компания», а конкретные люди внутри нее. Сначала инженеры будут тушить побочные эффекты, потом служба ИБ будет объяснять, почему никто не видел действий агента, а после этого CISO — отвечать на неудобные вопросы аудиторов, регуляторов или совета директоров. Быстрое внедрение без нормальной модели управления превращает риски ИИ из теоретического раздела презентации в кадровую проблему.
Для бизнеса вывод не менее прямой. Если компания хочет получить от ИИ продуктивность, а не новую категорию управленческого выгорания, безопасность нужно подключать не на этапе «разрешите запуск», а на этапе проектирования. Иначе рынок получит не дефицит ИИ-инициатив, а дефицит людей, готовых нести за них ответственность. Вопрос уже не в том, будут ли CISO сопротивляться ИИ. Вопрос в том, сколько из них согласятся оставаться крайними, пока организация учится отличать полезную автоматизацию от плохо контролируемого эксперимента.