Microsoft фиксирует около 38 млн срабатываний по рискам идентичности в день, и на этом фоне корпоративный ИИ быстро превращается из инструмента продуктивности в удобный ускоритель для атак шифровальщиков. Проблема не в том, что ИИ якобы изобрел новый класс угроз, а в том, что корпоративный ИИ получает доступ к тем же учетным записям, документам, SaaS-сервисам и API, за которыми охотятся вымогатели. Для российских и русскоязычных ИТ-команд вывод неприятный, но полезный: если ассистенту или агенту выдали слишком много прав, он может помочь не только сотруднику, но и злоумышленнику, который перехватил эти права.
Об этом сообщает BleepingComputer со ссылкой на материал Acronis о том, как генеративные ассистенты и автономные агенты меняют профиль риска вокруг ransomware. Логика здесь довольно приземленная. Сотрудники уже используют ИИ, чтобы резюмировать документы, искать знания в корпоративных базах, готовить черновики и автоматизировать рутину. Следующий шаг, который многие компании уже делают, это агенты с доступом к бизнес-приложениям, почте, файловым хранилищам и рабочим процессам. Они умеют не только отвечать на запрос, но и выполнять действия от имени пользователя. Если такая сущность работает под скомпрометированной учетной записью, атака резко ускоряется.
В материале разделяют два сценария, которые часто смешивают в одной страшилке про ИИ. Первый: преступные группы сами используют ИИ, чтобы быстрее писать фишинговые письма, генерировать вредоносный код, автоматизировать разведку, сортировать украденные данные и даже масштабировать вымогательство. Второй: компания внедряет корпоративный ИИ внутри своей инфраструктуры, подключая его к внутренним данным и прикладным системам. Эти сценарии идут параллельно. Снаружи атакующие становятся эффективнее, а внутри бизнеса растет число систем, которым делегированы права на чтение, поиск, отправку, экспорт и запуск действий. В такой схеме ИИ не ломает защиту сам по себе, но отлично усиливает уже знакомые техники: компрометацию учетных записей, злоупотребление доверенным доступом и кражу данных перед шифрованием.
Ключевая мысль Acronis звучит почти скучно, а потому особенно важна: главная проблема не в модели и не в промпте, а в делегированных полномочиях. Ассистент, подключенный к корпоративной базе знаний, способен за минуты сделать то, на что у злоумышленника раньше уходили часы ручного поиска по папкам и чатам. Достаточно задать вопросы в духе: где лежит документация по резервному копированию, какие есть административные процедуры, в каких папках клиентские данные, где финансовые файлы. Если речь уже не об ассистенте, а об агенте с правом отправлять письма, выгружать файлы или дергать связанные бизнес-инструменты, ущерб растет еще быстрее. Тогда ИИ становится не просто поисковиком, а операционным интерфейсом для кражи данных и несанкционированных действий.
На этом фоне prompt injection выглядит не единственной и даже не главной проблемой. Да, вредоносные инструкции в документах, письмах или веб-контенте могут влиять на поведение ИИ, когда корпоративное приложение подтягивает этот контент в контекст. Но последствия такого трюка в первую очередь зависят от того, что системе вообще разрешено. Поэтому рекомендации OWASP и других профильных организаций упираются не в магическую фильтрацию подсказок, а в многослойную защиту: минимум привилегий, контроль интеграций и обязательное подтверждение человеком для рискованных действий. Иначе говоря, если агенту позволено слишком много, никакая красивая обертка вокруг промптов не спасет.
Примеры того, как ИИ уже повышает эффективность киберпреступности, в тексте тоже есть, и они выглядят достаточно земными, чтобы не отмахиваться от них как от маркетинга. В отчете Acronis Cyberthreats Report H2 2025 группа GTG-2002 фигурирует как пример использования ИИ для генерации и отладки скриптов, сбора учетных данных, анализа украденной информации и персонализации сообщений для вымогательства. Операция GLOBAL GROUP, по данным Acronis, добавила ИИ-чатбота для автоматизации переговоров о выкупе после компрометации. Цепочку заражения это не меняет, но позволяет одной группе вести больше жертв одновременно и экономить время живых переговорщиков для сложных кейсов. Отдельно упомянуты исследователи Anthropic, которые документировали использование агентного ИИ китайской государственной группой в задачах разведки, поиска уязвимостей, сбора учетных данных и выгрузки информации. Все это не похоже на научную фантастику. Скорее на тот же киберкриминал, только с более дешевым и быстрым операционным плечом.
Для бизнеса отсюда следует неприятный организационный вывод: контур безопасности вокруг корпоративного ИИ нельзя сводить к политике «не вставляйте секреты в чат». Когда ИИ встроен в рабочие процессы, вопрос смещается на инвентаризацию, права доступа и аудит. Acronis рекомендует хотя бы базовый набор мер. Во-первых, держать список одобренных и несанкционированных ИИ-приложений, моделей и интеграций, а также назначать владельца и бизнес-цель для каждого ИИ-сценария. Во-вторых, выдавать минимум необходимых прав не только людям, но и ИИ-приложениям, сервисным учеткам и API, регулярно пересматривать делегированные разрешения и отзывать неиспользуемые токены. В-третьих, контролировать трафик и перемещение данных, связанные с ИИ, через secure web gateway, CASB и DLP, чтобы находить теневое использование ИИ и не допускать утечки чувствительной информации в неавторизованные сервисы. И, наконец, мониторить и журналировать активность ИИ так же серьезно, как активность конечных устройств, SaaS и идентичностей.
Для разработчиков и ИТ-руководителей здесь есть очень практичный чек-лист. Любой внутренний ассистент стоит воспринимать не как безобидный интерфейс к LLM, а как новую учетную запись с реальными полномочиями. Любого агента, который умеет отправить письмо, экспортировать таблицу, создать тикет, получить файл из хранилища или вызвать API, нужно рассматривать как потенциальную точку ускорения атаки. Особенно если этот агент интегрирован с Microsoft 365, документными репозиториями, CRM, сервис-деском или системами резервного копирования. В российской корпоративной среде, где часто любят сначала «быстро подключить», а потом разбираться с разграничением прав, это звучит почти как диагноз. Но именно здесь и проходит граница между полезной автоматизацией и новой головной болью для SOC и инфраструктурной команды.
Главный вопрос на ближайший год выглядит так: смогут ли компании внедрять корпоративный ИИ быстрее, чем научатся считать его полноценным участником модели доступа и расследований. Пока рынок явно бежит впереди службы безопасности. И если раньше вымогателям нужно было долго вручную искать, что украсть перед шифрованием, то теперь им все чаще может помочь ваш собственный цифровой ассистент, которому однажды выдали права «на всякий случай».