Шесть руководителей крупнейших AI-компаний США подписали при Дональде Трампе добровольное соглашение про безопасность ИИ. Документ не вводит штрафов, обязательных проверок или новых федеральных правил: индустрии предлагают самой следить за тем, чтобы ее самые мощные модели не уехали в кювет.
После ужина с топ-менеджерами Big Tech во вторник Трамп ответил на вопросы журналистов о своих новых заявлениях по искусственному интеллекту, сообщает The Verge. Президент заявил, что прежние разговоры о рисках ИИ как о «мистификации» демократов теперь к делу не относятся, потому что технологию он переименовал в Super Intelligence. На опасения о слабом регулировании он ответил в привычной логике гонки с Китаем: американские компании, по его словам, доминируют, а за безопасностью будут присматривать «самые умные люди в мире».
Под этими «самыми умными» имеются в виду руководители Google, Anthropic, Meta, OpenAI, xAI и Nvidia. В числе участников — Сундар Пичаи, Дарио Амодеи, Марк Цукерберг, Грег Брокман, Илон Маск и Дженсен Хуанг. Все они поддержали Joint Commitment on Frontier Responsibilities — соглашение, которое описывается как морально обязательный пакт по ответственному развитию передовых AI-систем. Юридически обязательным регламентом оно, судя по описанию, не является.
Смысл инициативы прост: компании публично обещают разрабатывать и выпускать мощные модели «с осторожностью», договариваться об общих принципах и убеждать общество, что безопасность ИИ не мешает ускорению рынка. Практическая деталь, от которой у регуляторов обычно начинает дергаться глаз: последствия за нарушение обещаний в источнике не описаны. То есть это не закон, не отраслевой стандарт с аудитом и не режим лицензирования, а клубное рукопожатие на уровне CEO.
Цукерберг назвал соглашение стартом для всей индустрии и попыткой дать пользователям уверенность, что технология работает так, как задумано. Брокман говорил о пользе AI для малого бизнеса, науки, разработки лекарств и роста качества жизни. Хуанг развернул самый индустриальный вариант аргумента: по его словам, AI запускает крупнейшую промышленную революцию и масштабнейшее инфраструктурное строительство, которое создает миллион рабочих мест в США. Цифру про миллион источник приводит как его заявление, не как независимую оценку.
Пичаи сделал акцент на экономическом эффекте и необходимости выпускать продукты безопасно. Маск, поправив себя с AI на SI, рассуждал об «эпохе изобилия», универсальном высоком доходе и медицине, доступной всем благодаря роботам и сверхинтеллекту. Когда журналист напомнил про риск потери рабочих мест, Маск ответил, что профессии менялись всегда: когда-то «компьютером» называли человека, который вручную выполнял расчеты, и мало кто хочет вернуть такие рабочие места. Амодеи, ожидаемо, был осторожнее остальных: он признал большие выгоды AI, но подчеркнул, что риски реальны, а механизм работы с ними еще обсуждается.
Для разработчиков и продуктовых команд здесь важна не церемония с камерами, а сигнал рынку. Если федеральное регулирование в США уходит в сторону добровольных обязательств, крупные поставщики моделей получают больше пространства для быстрых релизов, инфраструктурных сделок и агрессивной интеграции AI в продукты. Но вместе с этим растет неопределенность для всех, кто строит поверх их API: требования к оценке рисков, тестированию, логированию и работе с пользовательскими данными могут остаться размазанными между публичными обещаниями, корпоративными политиками и будущими судебными спорами.
Для бизнеса это тоже не абстрактная вашингтонская сцена. Если поставщик AI-сервиса говорит, что сам себя проверил, заказчику все равно придется спрашивать о красных командах, ограничениях модели, хранении данных, инцидентах, правах на контент и механизмах отключения опасных функций. Добровольный пакт может улучшить коммуникацию между лидерами рынка, но он не заменяет due diligence перед внедрением в банк, медицину, промышленность или HR-системы. Особенно там, где ошибка модели превращается не в забавный скриншот, а в юридический риск.
Главный вопрос теперь не в том, умеют ли CEO красиво говорить про ответственную разработку. Умеют. Вопрос в другом: станет ли безопасность ИИ проверяемой инженерной практикой с метриками, аудитом и последствиями или останется форматом «мы присматриваем друг за другом, честно-честно». Полные реплики участников опубликованы в .