Почти половина корпоративных AI-агентов может не дожить до следующего витка хайпа: Gartner прогнозирует, что 40% таких систем в организациях понизят в статусе или вовсе выведут из эксплуатации к концу 2027 года. Для тех, кто уже строит AI-агенты в компаниях поверх ERP, CRM и HR-систем, это неприятный, но полезный сигнал: проблема не в красивых демо, а в том, кто и как будет держать этих цифровых сотрудников в рамках.
Об этом, как пишет The Register, аналитики Gartner говорят на фоне бурного интереса к AI-агентам со стороны крупных поставщиков корпоративного ПО. За последний год эту тему активно продвигали SAP, Oracle, Workday и Salesforce. Логика понятна: агент получает задачу на естественном языке, обращается к большой языковой модели, а затем сам работает с прикладными данными и бизнес-процессами. На слайдах это выглядит как следующая ступень автоматизации. На практике, похоже, начинается старая корпоративная история про доступы, контроль и ответственность.
Ключевой тезис Gartner довольно приземленный: компании часто пытаются управлять AI-агентами по бинарной схеме. Либо агент почти ничего не может и задушен ограничениями, либо ему выдают слишком высокий уровень доверия. По словам старшего директора-аналитика Gartner Шивы Вармы, именно этот подход становится корневой причиной провалов. Проблема в том, что у разных агентов разный уровень автономности и разный радиус доступа. Один может только собирать информацию и готовить черновик ответа. Другой способен менять данные в системе, запускать процессы и влиять на операции без участия человека. Если навесить на них одинаковые правила, компания почти гарантированно промахнется.
Отсюда и два типовых сценария неудачи, на которые указывает Gartner. Первый: простые AI-агенты в компаниях получают слишком жесткие ограничения, из-за чего внедрение тормозит, команды обходят официальные правила и начинают собирать теневые решения. Второй: более автономным агентам дают слишком широкие полномочия, и тогда резко растут операционные, безопасностные и комплаенс-риски. Для разработчиков и архитекторов это звучит не как философия, а как вполне прикладная задача: нельзя проектировать доступы для агента так же, как для обычного чат-бота, если этот агент умеет не только отвечать, но и действовать.
Отдельно Gartner подчеркивает скорость и масштаб работы таких систем. Если агент умеет выполнять действия быстро и массово, человеческий контроль может банально не поспевать. А ответственность за последствия, как ни странно, никуда не исчезает и остается на стороне самой организации. Именно поэтому для самых автономных сценариев аналитики рекомендуют максимально жесткую модель управления: непрерывный мониторинг, обязательные guardrails, быстрый откат действий, аварийные выключатели при нарушении порогов и понятное закрепление владельца за поведением агента. Иными словами, если компания хочет цифрового сотрудника, ей придется сначала построить для него цифровую службу внутренней безопасности.
На этом месте корпоративный маркетинг начинает выглядеть чуть менее убедительно. The Register напоминает, что недавно SAP представила концепцию Autonomous Enterprise как образ будущего для своих бизнес-приложений. Глава компании Кристиан Кляйн обещал, что AI-агенты будут встроены в бизнес-процессы, данные и управление так, чтобы выдавать точные, соответствующие требованиям и безопасные результаты, а заодно открывать новые источники выручки и снижать издержки. На уровне стратегии звучит отлично. Но прогноз Gartner показывает, что главный барьер лежит не в интерфейсе и не в качестве презентации для совета директоров. Барьер в том, способна ли компания описать границы полномочий агента до того, как тот начнет что-то менять в живой системе.
Есть и еще один слой проблемы, который особенно важен для бизнеса: юридическая ответственность. The Register ранее обращал внимание, что вендоры не спешат брать на себя правовые риски за действия AI-агентов. Вице-президент Gartner и ведущий аналитик по Oracle Баладжи Аббабатулла прямо отметил: юридические формулировки у поставщиков в первую очередь защищают самих поставщиков. Вместо обещаний отвечать за последствия они говорят про мониторинг, наблюдаемость и аудит. Партнер Linklaters по цифровому, дата- и коммерческому праву Джорджина Кон добавляет, что существующее законодательство плохо приспособлено к миру, где действия совершает не человек напрямую, а агентная система. Но и сценарий, при котором компании создают таких агентов без ответственности за результат, рынок тоже не примет.
Для русскоязычной IT-аудитории вывод довольно практичный. Если вы внедряете AI-агенты в компаниях, спор уже не о том, «взлетит ли технология», а о том, как быстро упретесь в governance. Разработчикам придется проектировать не только промпты и интеграции, но и уровни автономности, границы доступа, логи действий и механизмы экстренной остановки. Продактам придется объяснять бизнесу, что «агент умеет делать X» и «агенту можно доверить X» — это вообще не одно и то же. IT-директорам и безопасникам придется договориться, где заканчивается удобство и начинается риск, который потом не удастся списать на поставщика платформы.
Gartner предлагает пропорциональный подход: классифицировать агентов по уровням автономности, а под каждый уровень задавать собственную границу доверия и свой набор правил. Звучит менее эффектно, чем рассказы про полностью автономное предприятие, зато похоже на единственный реалистичный способ не превратить следующую волну автоматизации в дорогой эксперимент с последующим демонтажом. Вопрос теперь не в том, сколько компаний запустят AI-агентов, а сколько из них сумеют объяснить аудитору, юристу и собственной службе эксплуатации, почему агент вообще получил право нажимать на эту кнопку.