Gartner: Без хорошего управления ИИ может возникнуть хаос

По данным аналитиков Gartner, к 2028 году среднее количество ИИ-агентов на одну компанию из списка Global Fortune 500 достигнет более 150,000 — сейчас их менее 15. Без правильного управления это количество может привести к хаосу и сбоям в работе.

Обострение проблем управления ИИ

На отчетном заседании Digital Workplace Summit в Лондоне, Max Goss, старший директор-аналитик Gartner, сообщил, что половина опрошенных компаний ограничивают внедрение ИИ-агентов только для низкорисковых пользователей. Однако такие ограничения не способствуют увеличению отдачи от генеративного ИИ. Компании, которые расширили доступ и внедрили сильное управление, оказались в 3,3 раза чаще среди тех, кто сообщает о высокой ценности от своих инструментов. Гартнер подчеркивает, что отсутствие управления не является решениями, а необходимость инвестирования в сторонние инструменты управления практически удваивает вероятность получения высокой ценности от ИИ-внедрений. Компании следует создать централизованный комитет по управлению ИИ, который разработает стратегии и политику, а затем, в каждой области применения, задействовать оперативные группы, чтобы адаптировать эти правила к конкретным платформам.

Рекомендации по управлению ИИ-агентами

В текущем состоянии лишь 15% респондентов отвечают, что рассматривают возможность внедрения полностью автономных ИИ-агентов. По исследованиям Gartner, всего 13% организаций уверены в наличии надлежащего управления. Однако на фоне стремительного роста числа ИИ-агентов с систем CRM и ERP, компании сталкиваются с понятием, называемым "агентский спrawl" — разрастание автономных ИИ-инструментов, что создает риски для безопасности данных и усложняет ИТ-инфраструктуру. Gartner рекомендует компаниям установить четкие правила управления, чтобы определить, как и когда создавать новые ИИ-агенты. Это включает в себя создание централизованного реестра всех ИИ-агентов в компании и использование инструментов управления доверием, рисками и безопасностью в ИИ (AI TRiSM) для отслеживания и каталогизации существующих агентов.

Что это значит для бизнеса

Для российских компаний важность управления ИИ-агентами не вызывает сомнений. Немалую роль сейчас играют требования к безопасности и соблюдению законодательства, что делает внедрение правил управления критически важным. На фоне растущего числа ИИ-решений, организации, не создавшие систему контроля, рискуют не только потерять данные, но и столкнуться с ухудшением своей репутации на рынке.

Следующий шаг

Компании должны принимать меры по формированию культурного изменения в отношении ИИ, начиная с обучения сотрудников ответственному управлению ИИ-агентами.