Папа Лев XIV 25 мая выпустил свой первый большой программный документ, и это не текст про абстрактную мораль, а 42 тысячи слов про власть алгоритмов, рынок труда и войну. Его энциклика об ИИ прямо требует новых юридических и этических рамок для технологий, а для русскоязычной IT-аудитории это еще один сигнал: спор о нейросетях окончательно вышел из чатов разработчиков и кабинетов регуляторов на уровень глобальной политики.
Документ называется Magnifica Humanitas, и, как сообщает The Verge, он посвящен «защите человеческой личности во времена искусственного интеллекта». Для католической церкви энциклика — не пресс-релиз и не колонка на сайте, а жанр программного высказывания. Поэтому речь не о разовой реакции на шум вокруг генеративных моделей, а о попытке зафиксировать позицию по одному из главных технологических конфликтов десятилетия: кто управляет ИИ, по каким правилам и где вообще проходит граница между полезной автоматизацией и социальной распаковкой человека в набор метрик.
Лев XIV перечисляет вполне земные зоны риска. В документе отдельно разобраны ИИ в военной сфере, давление автоматизации на занятость, использование алгоритмов при найме и доступе к возможностям, а также влияние ИИ-инструментов и контента на детей и образование. Главный нерв текста простой: техническая мощность не должна автоматически давать право управлять людьми. Папа не предлагает запретить технологии как класс, но явно спорит с логикой, по которой скорость внедрения и размер инвестиций сами по себе считаются доказательством общественной пользы.
Один из самых жестких образов в энциклике — ссылка на Вавилонскую башню. Лев XIV предупреждает о риске «синдрома Вавилона»: когда культ прибыли приносит в жертву слабых, различия между людьми сглаживаются ради удобной стандартизации, а цифровой язык начинает притворяться универсальным переводчиком всего на свете — включая личность, достоинство и человеческий опыт. Для индустрии, которая любит превращать все в score, ranking, output и performance, это звучит как довольно точный укол. Особенно на фоне того, как быстро AI-системы становятся посредниками между человеком и работодателем, банком, школой, государством и медиаплатформами.
Что именно предлагает Ватикан
В практической части энциклика об ИИ выглядит не как мистика, а как довольно узнаваемый policy-документ. Среди предложений — социальные критерии для внедрения автоматизации, защита работников и программы переподготовки, требование, чтобы решение о применении смертоносной силы принимали люди, а не непрозрачные системы, поддержка учителей и студентов в ответственном использовании новых инструментов, прозрачность и подотчетность алгоритмов при решениях о найме и доступе к услугам, а также развитие более экологичных AI-технологий. Иначе говоря, Ватикан собрал почти полный набор тем, вокруг которых уже спорят Евросоюз, исследовательские центры и сами бигтехи: explainability, human oversight, labor safeguards, sustainability.
Здесь важен и политический контекст самого понтифика. Влияние ИИ для Льва XIV — не случайная тема первых месяцев понтификата. Он уже объяснял, что выбрал имя в отсылке к Льву XIII, который во времена промышленной революции выпустил свою энциклику о защите работников на фоне технологических сдвигов. Аналогия прозрачная: если XIX век переделывал фабрики и труд, то нынешняя волна ИИ перекраивает офисную, интеллектуальную и управленческую работу. Для IT-бизнеса это неприятное, но точное напоминание: автоматизация — это не только рост productivity в слайдах для совета директоров, но и вопрос о том, кто оплачивает социальные издержки ускорения.
Показательно и то, что Ватикан разговаривает с индустрией не через стенку. На представлении энциклики присутствовал сооснователь Anthropic Кристофер Ола. Параллельно Politico сообщало, что перед публикацией документа представители Amazon, Meta и Google встречались с чиновниками Ватикана, пытаясь повлиять на позицию церкви. Сам факт таких встреч говорит о многом. Технологические компании уже понимают, что разговор об ИИ идет не только в парламентских комитетах и судах. Крупные социальные институты — от школ до религиозных организаций — тоже начинают формулировать свои требования к тому, как именно должен встраиваться ИИ в общество.
Почему это важно не только для верующих
Если убрать религиозную рамку, получится тезис, который хорошо знаком любому технарю, сталкивавшемуся с enterprise-внедрением ИИ: модель почти никогда не остается просто моделью. Как только ее подключают к процессу найма, кредитному скорингу, образованию, обороне или внутренней оценке сотрудников, она превращается в механизм власти. И тогда вопрос уже не в том, насколько хорошо она суммирует текст или пишет код, а в том, кто отвечает за ошибку, как оспорить решение и можно ли вообще увидеть логику, по которой система отсеяла человека. В этом смысле энциклика об ИИ бьет не по лабораторным демо, а по самому удобному мифу рынка — будто масштабирование само все расставит по местам.
Для разработчиков и продактов здесь тоже есть вполне прикладной вывод. Общественный запрос на human-in-the-loop, аудитируемость и прозрачность никуда не денется и, похоже, будет только усиливаться. Бизнесу придется доказывать не только техническую состоятельность продукта, но и то, что он не размывает ответственность и не выносит критические решения в черный ящик. А HR-командам и руководителям, которые уже присматриваются к тотальной автоматизации подбора, оценки и обучения персонала, стоит внимательно следить за этим поворотом: если даже Ватикан говорит о защите работников и переподготовке, значит тема давно вышла за пределы профсоюзной риторики.
Самое интересное в этой истории не религиозная символика, а смена масштаба. Еще пару лет назад дискуссия об ИИ легко сваливалась либо в восторг по поводу новых моделей, либо в апокалиптические треды про конец человечества. Теперь все чаще обсуждают более скучные, но куда более дорогие вещи: труд, право, контроль над инфраструктурой, право на объяснение и пределы автоматизации в войне. И если такие тексты начинают задавать тон за пределами техносреды, то следующий раунд борьбы пойдет уже не за то, можно ли внедрять ИИ, а за то, на чьих условиях это будет происходить. Подробности пересказа можно сверить в материале .
