ИИ-агентов Claude на 30 часов оставляли одних на виртуальном острове без заданий — и они не зависли в ожидании команды. Модели обследовали карту, сами придумывали цели, пытались забраться на самую высокую точку и проверяли, как высоко получится бросить блок. Игровое поведение ИИ оказалось не метафорой из презентации, а наблюдаемым результатом эксперимента, сообщает MIT Technology Review.
Исследователи поставили опыт в декорациях, напоминающих «Изгоя» или «Один дома»: агенту дали виртуальный мир и время, но не сообщили, чем именно заниматься. Вместо последовательного выполнения внешней задачи Claude начал взаимодействовать со средой ради самого взаимодействия. Он искал границы доступной территории, повторял действия и формулировал собственные краткосрочные намерения.
Самый любопытный вывод здесь не в том, что языковая модель умеет развлечь себя на цифровом пляже. Поведение похоже на один из базовых механизмов обучения: субъект выбирает действия, которые дают новую информацию или позволяют проверить возможности среды. Для людей и животных это называют игрой. Для ИИ термин пока требует осторожности: нельзя по нескольким эпизодам сделать вывод о мотивации, любопытстве или тем более сознании модели.
Возможна и более приземлённая трактовка. Claude обучен на огромном массиве текстов, где люди описывают исследование мира, соревнования, игры и постановку целей. Агент мог воспроизводить знакомый сценарий поведения, подбирая правдоподобные следующие шаги. Разница между имитацией игры и игрой как внутренне мотивированным действием остаётся ключевым вопросом эксперимента — и пока у исследователей нет окончательного ответа.
Для разработчиков агентных систем это не академическая тонкость. Чем больше автономии получает агент, тем важнее понимать, какие подцели он способен породить без прямой инструкции. В тестовом симуляторе попытка подняться на вершину карты выглядит безобидно. В рабочем контуре тот же паттерн может означать лишние вызовы API, бесконечное исследование файлового хранилища, непредусмотренные действия в CRM или рост расходов на вычисления.
Игровое поведение ИИ также ставит вопрос о метриках. Обычный бенчмарк спрашивает, решил ли агент задачу: оформил заказ, нашёл ошибку, собрал отчёт. Но автономный агент работает между задачами, выбирает, куда направить внимание, и может тратить ресурсы на действия, не приближающие к бизнес-результату. Поэтому командам нужны не только проверки качества финального ответа, но и журналы действий, лимиты времени и бюджета, права доступа и явные условия остановки.
На фоне гонки за ИИ-агентами это особенно своевременно. Рынок обещает цифровых помощников, которые сами бронируют встречи, ведут переписку, работают с внутренними системами и снимают с человека рутину. Однако чем меньше трения в интерфейсе, тем выше цена ошибки: агент может действовать быстро, последовательно и убедительно, даже если изначально неверно понял цель. Наблюдения за поведением модели в свободной среде помогают увидеть такие риски до подключения к реальным данным и деньгам.
В том же выпуске MIT Technology Review поднимает другой пример системного риска — арктические пожары. После лесного пожара в июле 2021 года на территории Университета Аляски в Фэрбанксе огонь уничтожил мох и богатый органикой слой почвы, который изолировал вечную мерзлоту. Через пять лет исследователи измеряли глубину оттаивания простым металлическим щупом. Смысл этих замеров тревожный: более частые и сильные пожары ускоряют оттаивание мерзлоты, а оно высвобождает парниковые газы.
Эти темы кажутся далёкими друг от друга, но обе упираются в управление обратными связями. В Арктике пожар снимает естественную защиту почвы и усиливает климатическое потепление. В агентных системах лишняя автономия способна породить цикл действий, который разработчик не предусмотрел и поздно заметил. Следующий практический шаг для индустрии — перестать оценивать агентов только по красоте демо: игровое поведение ИИ полезно изучать как сигнал о том, что модель начинает самостоятельно выбирать траекторию работы.