CISO PwC Джеймс Шира связывает стремительное распространение ИИ с необходимостью заново оценить корпоративные риски. Для российских команд это не академический спор о будущем: безопасность ИИ уже становится частью архитектуры продукта, закупок, разработки и управления доступами.
Шира рассказал о взгляде PwC на изменения в киберзащите в интервью, сообщает Dark Reading. Его ключевая мысль проста и неприятна для организаций, привыкших к годовым циклам согласований: ИИ ускоряет изменения внутри компании, а значит, прежняя модель оценки угроз может не успевать за тем, как сотрудники и системы начинают использовать новые инструменты.
Речь не сводится к защите очередного чат-бота. Генеративные модели попадают в процессы подготовки документов, разработки кода, поддержки клиентов, поиска по внутренним базам знаний и аналитики. В каждом случае меняется набор данных, которые проходят через систему, круг пользователей и цепочка поставщиков. Если команда безопасности подключается после запуска, ей остаётся выяснять, какие сведения уже ушли во внешний сервис, кто имеет к ним доступ и можно ли восстановить журнал действий.
Проблема особенно заметна там, где ИИ внедряют как «быструю надстройку» над существующими процессами. У такого решения могут быть вполне легитимные бизнес-цели — сократить время на рутинные операции или помочь сотрудникам работать с большим объёмом информации. Но для ИБ появляются новые вопросы: разрешена ли передача данных модели, как проверяются ответы, кто отвечает за ошибочное действие, какие права получает интеграция и что происходит после обновления поставщика.
В этом контексте пересмотр рисков — не попытка запретить технологию, а способ избежать ложного выбора между скоростью и контролем. Командам разработки полезно заранее разделить эксперименты с публичными данными и решения, работающие с внутренней информацией. Для вторых нужны понятные границы: классификация данных, правила доступа, журналирование, проверка интеграций и владелец процесса. Иначе пилот, который «просто помогает писать тексты», незаметно превращается в новый канал доступа к корпоративным знаниям.
Отдельный слой — автоматизация и роботы, вынесенные в заголовок разговора с Широй. Чем больше система способна не только рекомендовать, но и выполнять действия, тем выше цена неверного ответа или скомпрометированной учётной записи. Для бизнеса это означает, что оценивать нужно не только точность модели. Важнее понять, какие операции ей разрешены, требуется ли подтверждение человека, как ограничивается масштаб ошибки и можно ли быстро отключить интеграцию без остановки критичных процессов.
Для IT-директоров и продуктовых команд здесь есть практическая развилка. Можно оставить внедрение ИИ набором разрозненных инициатив, где каждый отдел выбирает инструменты самостоятельно. Можно создать минимальный, но рабочий контур управления: список допустимых сценариев, требования к данным, процедуру проверки поставщиков и понятный маршрут эскалации инцидентов. Второй вариант не гарантирует отсутствие ошибок, зато сокращает число сюрпризов, когда служба безопасности узнаёт о новой системе из счёта или сообщения в корпоративном чате.
Подход важен и для HR-функций. Сотрудники будут использовать ИИ-инструменты независимо от того, насколько подробно запрет сформулирован в политике. Поэтому обучение должно объяснять не только запреты, но и конкретные последствия: какие данные нельзя вставлять в запрос, как распознать сомнительный результат модели, куда сообщать о проблеме. Политика, которую невозможно применить в ежедневной работе, обычно проигрывает удобной кнопке в браузере.
Слова CISO PwC укладываются в более широкий сдвиг: кибербезопасность всё меньше похожа на финальную проверку перед релизом и всё больше — на постоянную функцию управления изменениями. Безопасность ИИ придётся строить вокруг реальных потоков данных и полномочий, а не вокруг презентационных обещаний поставщика. Главный вопрос для компаний теперь не в том, будут ли они использовать ИИ, а в том, успеют ли их процессы контроля стать достаточно быстрыми, чтобы не тормозить бизнес и не пропускать новые точки риска.
