Контроль над ИИ становится новой линией раздела в бигтехе. The New Stack сопоставил позиции Microsoft и Google DeepMind и показал: компании спорят уже не о том, нужны ли ограничения для ИИ-агентов, а о том, на каком уровне их строить — в самой модели или в платформе вокруг нее.
Для русскоязычной ИТ-аудитории это не академический разговор. От ответа зависит, кто будет управлять доступом, журналами аудита, проверкой действий агентов и, в итоге, бюджетом на новую ИИ-инфраструктуру.
Центр спора смещается от модели к инфраструктуре
Последние полтора года рынок жил по простой схеме: сначала подключить модель, потом разбираться с правилами. Теперь этот подход трещит. Чем активнее компании внедряют ИИ-агентов в рабочие процессы, тем острее вопрос: кто отвечает за их действия и кто может их остановить.
В этом смысле разница между Microsoft и DeepMind выглядит показательной. Обе стороны говорят о безопасности, но по-разному понимают, где должен находиться главный механизм управления. У Microsoft он ближе к платформе: облаку, средствам защиты, журналам, ролям и ограничениям доступа. У DeepMind акцент сильнее смещен к самой модели, ее обучению и встроенным ограничениям поведения.
Если убрать маркетинговый слой, спор довольно приземленный: кто в ИИ-стеке получит право держать главный выключатель.
Microsoft делает ставку на платформенный контроль
Для Microsoft такая логика естественна. Компания давно продает не просто программы, а управляемую среду: Azure, средства защиты, DevOps-инструменты, управление учетными записями и требования соответствия. Поэтому идея, что ИИ-агенты должны работать внутри внешнего контура правил, для нее почти базовая.
Для крупных заказчиков это звучит убедительно. Им нужны не обещания, что модель «сама все поймет», а конкретные вещи: кто выдал доступ, где сохранился след, кто утвердил действие и как быстро его можно заблокировать. Для разработчиков плюс тоже понятный: агента проще встроить в уже существующие журналы, права и процессы безопасной разработки.
Но цена такого удобства известна любому, кто жил внутри корпоративного стека. Чем больше контроля сосредоточено на платформе одного поставщика, тем сильнее зависимость от этого поставщика. Сначала это выглядит как удобство, потом превращается в отдельную строку расходов.
DeepMind продвигает ограничения на уровне модели
Подход DeepMind устроен иначе. Если модель сама лучше понимает контекст, риски и пределы допустимого поведения, то поверх нее можно строить более гибкие системы без громоздкой цепочки промежуточных фильтров, ручных согласований и внешних прокси.
Это сильная идея для тех, кто верит, что главная ценность ИИ лежит внутри самой модели, а не в обвязке вокруг нее. Но у такого подхода есть слабое место: корпоративные заказчики редко готовы полагаться только на внутреннюю логику модели. Им нужен формальный контроль, а не только обещание, что система ведет себя аккуратно.
Именно поэтому спор выглядит шире, чем дискуссия о безопасности. На кону маржа и влияние: либо основная ценность накапливается в облаке, инструментах и системах наблюдения, либо еще глубже уходит в разработчиков базовых моделей.
Для России и СНГ это вопрос архитектуры, а не терминов
У команд из России и СНГ этот спор читается особенно практично. Многие строят ИИ-функции на смешанном стеке: часть сервисов локальная, часть работает через зарубежные облака, часть опирается на собственные модели и промежуточные шлюзы. В такой схеме контроль над ИИ — это уже не красивая формула, а набор неприятно конкретных решений.
Где хранить политики доступа? Как ограничивать действия агентов? Можно ли отделить оркестрацию от модели? Как вести аудит? Что делать с персональными данными? И как не превратить цепочку из нескольких LLM и внешних инструментов в черный ящик с правами администратора?
Практический вывод простой: рынок все меньше интересуют «еще один чат» и «еще одна тонкая надстройка над API». Заказчики хотят видеть схему ответственности: кто принимает решение, как оно проверяется, кто может его остановить и где остается запись.
Значение для рынка
Для стартапов это сигнал не строить бизнес только на красивом интерфейсе поверх чужой модели. Для корпораций — напоминание, что внедрение ИИ быстро упирается в контроль доступа, аудит и соответствие требованиям. Для разработчиков — подтверждение, что выиграют не только создатели сильных моделей, но и те, кто лучше соберет вокруг них надежный управляемый контур.
Следующий этап конкуренции в генеративном ИИ, похоже, пройдет не за самый эффектный ответ, а за право определять правила работы машин. Источник: The New Stack.