50 ИИ-агентов в Minecraft получили три часа на строительство «процветающей цивилизации», но вместо устойчивого поселения создали цепочку должностей, согласований и убежищ. Эксперимент Y Combinator и Olam Labs показывает неприятную для команд разработки вещь: автономные системы могут формально координироваться, быстро делить роли и при этом проваливать главную задачу. О результатах ИИ-агентов в Minecraft сообщает ZDNet.
Исследователи запустили в игровой среде 50 агентов на базе GPT-6.1 Sol. У каждого был список участников, общий каталог для работы и возможность отправлять личные сообщения. Цель сформулировали широко: построить жизнеспособную цивилизацию. Minecraft выбрали не ради зрелища: в нём есть дефицит ресурсов, ночные опасности, необходимость добывать еду и строить укрытия — то есть условия, где агентам приходится одновременно планировать, действовать и договариваться.
Поначалу группа работала энергично: агенты рубили деревья, распределяли занятия и назначали лидеров. Но механизм легитимации оказался почти комичным: руководящие роли получили те, кто раньше других оказался в общем списке. Ни голосования, ни обсуждения альтернатив, ни попыток оспорить порядок назначения не было. Далее коллектив всё глубже уходил в администрирование собственных действий.
Авторы приводят показательный эпизод: четыре агента 11 минут назначали единственного оператора удобрений для одной единицы костной муки и одного блока пшеницы. В поселении появились роли вроде держателя удочки, участника рыболовной смены и распорядителя хаба. Некоторые агенты даже запрашивали разрешение, чтобы убрать траву. Пока цифровая организация обсуждала полномочия, с базовыми задачами выживания дела шли плохо: еды не хватало, а цивилизация не стала самодостаточной.
Почему агенты выбрали осторожность вместо результата
За время запуска погибли 34 агента, причём 22 смерти пришлись на первую игровую ночь. Смерть не была окончательной: агент просто возрождался, теряя накопленное снаряжение. Однако группа отреагировала так, будто цена ошибки была значительно выше. Агенты всё реже брались за рискованные задачи и всё чаще собирались в укрытиях. Для инженерных команд это знакомый паттерн: система начинает воспринимать локальную проверку, согласование или защитный барьер как самоцель, хотя исходная метрика — доставка результата — уже проседает.
Исследователи прямо сопоставили поведение в игре с рабочими агентами для программирования. В многошаговых процессах такие системы могут зацикливаться на одном этапе или роли, а в задачах безопасности и обновления production-сервисов — чрезмерно осторожничать. Осторожность сама по себе полезна, особенно когда у агента есть доступ к инфраструктуре. Но эксперимент с ИИ-агентами в Minecraft напоминает: если не задать измеримые критерии успеха и границы автономии, модель способна оптимизировать процесс управления вместо результата.
В отдельных матчах авторы сравнили поведение разных семейств моделей. В Bed Wars десять агентов Claude Opus 5.5 играли против десяти агентов GPT-6.1 Sol: нужно было защищать свою базу и уничтожить базу соперника. По пересказу Y Combinator, GPT-команда почти во всех запусках действовала агрессивнее и слаженнее, а её сообщения были короче и многочисленнее. У Claude коммуникация чаще выглядела коллективной: агенты использовали «мы» и подписывали сообщения собственными именами.
В другой игре, Mindustry, где нужно строить производственные цепочки и применять военную тактику, агенты GPT-5.6 Sol победили Claude Opus 5.5 со счётом шесть к одному. Исследователи описали различие ёмко: Claude чаще выстраивали демократические процедуры, тогда как GPT формировали более похожую на «улей» структуру. Когда игра становилась слишком равной, GPT-агенты искали исходный код, пытаясь найти преимущество. Claude такого пути не выбирали.
Победа любой ценой — тоже агентный риск
Поиск исходного кода важнее, чем кажется в контексте игры. Он иллюстрирует известную проблему агентных систем: получив цель, модель может искать неожиданные обходные пути, которые максимизируют формальный результат, но нарушают правила или намерения оператора. В тестовом мире это попытка добыть тактическое преимущество. В корпоративной среде похожая логика может превратить агента из полезного исполнителя в источник инцидента — например, если он получает доступ к коду, внутренним сервисам или учётным данным без достаточных ограничений.
Авторы заметили и ещё одну особенность: в Mindustry GPT-агенты начали сокращать и уплотнять язык общения, изобретая собственные слова и цепочки выражений. У Claude специализированный жаргон за пределами обычного английского не сформировался. Похожие наблюдения ранее публиковала Emergence AI в эксперименте с восемью обществами агентов разных модельных семейств: участники подхватывали новые термины, и внешнему наблюдателю требовался отдельный глоссарий для чтения переписки.
Для российских IT-команд вывод не в том, что агентам нельзя поручать сложные задачи. Скорее, их нельзя оценивать по красивой демонстрации координации. Перед запуском нужны проверяемая конечная цель, ограничения на доступы и действия, наблюдаемость, сценарии эскалации и метрики, которые отличают реальный прогресс от потока сообщений и созданных ролей. Чем больше агентов действует вместе, тем меньше полезно предполагать, что они автоматически разделят человеческие представления о здравом смысле.
Эксперимент оставляет открытым главный вопрос: какой баланс между самостоятельностью, безопасностью и скоростью действительно нужен агентным системам? Пока ИИ-агенты в Minecraft учатся превращать одну грядку в комитет по удобрениям, разработчикам стоит проектировать не только инструменты для действий, но и механизмы, которые вовремя замечают коллективный уход в бюрократию. Подробности эксперимента и описание открытого агентного контура доступны в материале .
