Президент Microsoft Брэд Смит призвал срочно ужесточить регулирование искусственного интеллекта: по его словам, молоко и стиральные машины во многих странах контролируются строже, чем компании, создающие ИИ. Он считает, что Великобритания способна стать центром глобальных правил для отрасли — и это важный сигнал для разработчиков и бизнеса, которым уже недостаточно ориентироваться лишь на скорость выпуска новых моделей.
Смит изложил позицию в интервью BBC, сообщает TechCrunch. Топ-менеджер Microsoft назвал ИИ одновременно инструментом и оружием, способным повысить риски в кибербезопасности. Его главный тезис прост: добровольных обещаний компаний недостаточно, потому что им будут следовать прежде всего те, кто и без того склонен вкладываться в безопасность.
Речь не о запрете нейросетей и не о паузе в разработке всех моделей. Смит предлагает набор вполне прикладных требований. Среди них — юридическая обязанность уведомлять организации, если их системы были скомпрометированы автономными ИИ-агентами; независимая оценка опасных возможностей модели до релиза; а также механизмы принудительной остановки или замедления работы системы, если контроль человека утрачен.
Последний пункт особенно показателен. В индустрии давно обсуждают, что именно считать «кнопкой выключения»: отдельный технический стоп-сигнал, ограничение доступа к инструментам, изоляцию модели от критической инфраструктуры или процедуру эскалации для оператора. Но для корпоративных команд важнее другое: безопасность ИИ перестаёт быть внутренней задачей ML-инженеров. Она становится частью архитектуры продукта, процессов реагирования на инциденты и юридической ответственности.
Ставку на Лондон Смит объясняет политической геометрией. По его мнению, Вашингтон воспринимает британский подход иначе, чем регулирование из Брюсселя. Европейский союз уже ассоциируется у американских технологических компаний с жёсткими обязательствами и штрафными рисками. Великобритания, напротив, может выступить посредником между американскими лабораториями, европейскими регуляторами и другими странами — не пытаясь немедленно построить ещё один континентальный свод правил.
У Лондона для этого есть и практический аргумент: британский AI Security Institute, созданный в 2023 году. Институт получает доступ к крупным моделям ведущих американских лабораторий до их публичного развёртывания и проверяет их на риски. Такая схема важна не только как исследовательская экспертиза. Предрелизное тестирование позволяет искать уязвимости до того, как модель окажется в API, корпоративном продукте или агенте с доступом к внутренним системам.
Эта роль, впрочем, уже стала предметом политического конфликта. В последние недели президент США Дональд Трамп критиковал «глобалистские» организации, которые, по его мнению, вмешиваются в работу американских компаний. В сентябре он, как утверждается, просил Anthropic и OpenAI не передавать новые модели британским тестировщикам. Однако 12 октября AISI подтвердил, что по-прежнему может получать и проверять актуальные модели.
На этом фоне особенно заметно, что призыв к более строгим правилам звучит не от внешних критиков Big Tech, а от президента Microsoft. Компания сама глубоко встроена в ИИ-рынок: продаёт облачную инфраструктуру, корпоративные сервисы и инструменты для разработки. Требования к независимой оценке и уведомлению об инцидентах означают дополнительные издержки для всех участников рынка, включая крупнейших поставщиков. Но для Microsoft предсказуемое регулирование искусственного интеллекта может быть и конкурентным преимуществом: большие компании легче содержат команды безопасности, юристов и аудиторов, чем небольшой стартап с парой инженеров и быстрым раундом инвестиций.
Давление на рынок усиливается и со стороны самих ИИ-лабораторий. Основатель Anthropic Дарио Амодеи и глава OpenAI Сэм Альтман также призывали снизить темп гонки после нескольких случаев неконтролируемого поведения ИИ-агентов. В сентябре в Белом доме представители OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google подписали документ с моральным обязательством работать с независимыми аудиторами при оценке безопасности и возможностей моделей. Смит назвал это полезным шагом, но подчеркнул, что моральное обязательство не заменяет закон.
Для русскоязычных IT-команд вывод довольно приземлённый. Если продукт использует внешние модели, агентов или доступ к данным клиентов, вопросы аудита, журналирования действий и ограничения полномочий придётся решать ещё до выхода на международный рынок. Особенно это касается B2B-сервисов, финтеха, HR-платформ, разработчиков средств кибербезопасности и команд, подключающих агентам почту, CRM, репозитории и платёжные операции. Функция «пусть агент сам разберётся» в таком контексте выглядит уже не как удобство, а как потенциальный источник инцидента.
Главный вопрос теперь не в том, появятся ли правила для ИИ, а кто напишет их первым и чьи требования станут отраслевой нормой. Если Великобритания сохранит доступ к передовым моделям и доверие американских лабораторий, её проверки могут стать фактическим пропуском на мировой рынок. Позицию Смита и его аргументы можно сверить в публикации .