Риски ИИ уже добрались до советов директоров, но компании до сих пор не договорились, кто за них отвечает. В исследовании PwC среди примерно 4000 бизнес- и технологических руководителей из 71 страны ответственность за агентный ИИ разъехалась между CIO, CTO, CISO и отдельными AI-руководителями - а у части компаний вообще осталась размазанной по оргструктуре.
Опрос вошел в отчет PwC Digital Trust Insights 2027, сообщает ZDNet. Главный вывод неприятно практичный: бизнес активно внедряет большие языковые модели и ИИ-агентов, но управленческая модель за ними не успевает. Для русскоязычных IT-команд это не абстрактная корпоративная философия, а вполне земной вопрос: кто подпишет доступ агенту к CRM, кто выключит его при инциденте и кто будет объяснять регулятору, почему бот скачал не те данные.
Ответственный есть, но у каждого свой
По данным PwC, единой роли, которая явно отвечает за управление агентным ИИ и его безопасность, у компаний пока нет. 29% опрошенных CEO, руководителей безопасности и риск-менеджеров считают, что ответственность должна лежать на CIO, CTO или похожей технологической функции. Еще 17% относят ее к CISO или командам кибербезопасности. 26% говорят, что этим должен заниматься отдельный AI-лидер или AI-функция.
Есть и более тревожная группа: 11% респондентов признают, что ответственность неясна и распределена между несколькими ролями или подразделениями. В переводе с корпоративного на человеческий: если ИИ-агент ошибется, получит лишние права или станет точкой входа в сеть, заранее понятного владельца проблемы может не оказаться.
При этом тема уже не живет только в инженерных чатах. 47% участников исследования заявили, что кибербезопасность регулярно стоит в повестке советов директоров. Это почти половина, но для области, где один неудачно настроенный доступ может превратиться в утечку, цифра выглядит скорее как недобор. PwC также указывает, что девять из десяти бизнес-лидеров уже говорят о наличии базовых практик: надзора совета директоров, ответственности топ-менеджеров и включения рисков в корпоративное управление.
На бумаге фундамент есть. На практике компании еще только решают, кому выдавать ключи от нового класса цифровых работников. Агентный ИИ отличается от обычного чат-бота тем, что не просто отвечает на вопросы, а выполняет действия: обращается к системам, использует учетные данные, запускает операции от имени человека. Если такие агенты подключены к внутренним данным, тикет-системам, почте, репозиториям или финансовым инструментам, спор о владельце быстро перестает быть теоретическим.
CISO уже перегружен. Нужен ли CAISO?
ZDNet проводит понятную историческую параллель: первый формальный CISO, Стив Кац, появился в Citigroup в 1994 году после российских кибератак. За три десятилетия роль директора по информационной безопасности стала почти обязательной для среднего и крупного бизнеса. Теперь похожий путь может начаться вокруг ИИ - только темп будет выше, потому что LLM и агенты уже встроены в корпоративные приложения, поддержку, аналитику и повседневные инструменты сотрудников.
PwC фиксирует, что около трети организаций - 33% - уже признали потребность в отдельной ответственности и наняли людей на специализированные AI-роли, включая chief AI officer и участников советов директоров с фокусом на ИИ. Но назначить AI-директора еще не значит закрыть вопрос безопасности. Такой руководитель может отвечать за стратегию, внедрение и эффективность, но не обязательно за права доступа, мониторинг, аудит действий агентов и реакцию на инциденты.
Отсюда возникает кандидат на новую должность: chief AI security officer, или CAISO. Звучит как очередная аббревиатура для LinkedIn, но проблема за ней реальная. CIO и CTO уже отвечают за инфраструктуру, разработку, поставщиков и архитектуру. CISO - за угрозы, контроль доступа, соответствие требованиям и расследования. Повесить на них еще и полный контур рисков ИИ можно, но тогда бизнесу придется честно признать: либо эти роли получают новые ресурсы и полномочия, либо ответственность останется красивой строкой в презентации.
В источнике есть и более приземленный технический совет. Джим Тейлор, директор по продукту и стратегии RSA, говорит, что к ИИ-агентам нужно применять те же принципы идентификации, которые десятилетиями использовались для людей. У каждого агента есть своя идентичность: учетные данные, набор прав, доступ к ресурсам и возможность действовать от имени сотрудника. Значит, ему нужны контроль доступа, многофакторная проверка там, где это применимо, принципы zero trust, регулярная ревизия прав и понятный владелец.
Один из сценариев - централизованный реестр разрешенных ИИ-агентов внутри корпоративной сети. Каждый агент получает человеческого владельца, а операции с высоким риском требуют отдельного подтверждения. Плюс регулярная оценка, привязка governance-процессов к отраслевым фреймворкам и вывод из эксплуатации агентов, которые больше не нужны. Звучит скучно, зато именно скучные реестры, владельцы и журналы событий обычно спасают компанию, когда в отчет об инциденте хочется написать что-то умнее, чем «оно само».
Для разработчиков это означает, что интеграция LLM в продукт или внутренний инструмент все чаще будет проходить через security review, матрицу прав и аудит действий. Для продактов - что метрика «ускорили процесс на 30%» перестанет быть достаточным аргументом, если не понятно, кто контролирует поведение агента. Для IT-директоров - что закупка AI-функции у вендора без модели ответственности скоро будет выглядеть так же странно, как покупка SaaS без вопросов про SSO, логи и хранение данных.
Риски ИИ постепенно превращаются из темы для комитетов по инновациям в обычную дисциплину корпоративной безопасности. Следующий спор в компаниях, похоже, будет не о том, нужен ли отдельный AI-руководитель, а о том, какие полномочия он получит: право вдохновлять презентациями или право отключать агента, который стал слишком самостоятельным.