AI И НЕЙРОСЕТИ

Anthropic предупредила: самоулучшение ИИ может выйти из-под контроля

Claude уже пишет более 80% кода Anthropic: компания предупредила, что самоулучшение ИИ может ускориться до потери человеческого контроля

✍️ Редакция iTech News | 10.06.2026 | ⏱ 5 мин | Источник: Tom's Hardware
💡

Claude уже пишет более 80% кода, который попадает в production-кодовую базу Anthropic, и именно это компания теперь подает как ранний сигнал того, что самоулучшение ИИ перестает быть теорией из старых эссе про сингулярность. Если упростить: разработчики учат модель ускорять разработку самой себя, а потом публично рассуждают, в какой момент человек из инженера превратится в наблюдателя с правом последней подписи. Для русскоязычной IT-аудитории это важный сюжет не про апокалипсис, а про новый потолок автоматизации в разработке, исследованиях и управлении рисками.

Как пишет Tom's Hardware, 4 июня Anthropic опубликовала отчет When AI builds itself, где описала, как быстро растет вклад Claude в собственный цикл разработки. По данным компании, до исследовательского превью Claude Code в феврале прошлого года доля модели в таком коде была на уровне низких однозначных процентов, а теперь превысила 80%. Внутри Anthropic это трактуют как начало ускоряющейся петли: ИИ помогает создавать инструменты, код и улучшения, которые повышают способность следующей версии ИИ делать ту же работу еще быстрее.

Ключевой тезис Anthropic звучит так: если модели дойдут до стадии, когда смогут проектировать и собирать себе преемников без существенного участия людей, темп прогресса будет упираться в вычислительные ресурсы, а не в человеческую команду. В таком сценарии инженеры смещаются в роль надзора и верификации, а контроль над frontier-моделями становится не технической процедурой, а отдельной проблемой безопасности. Исследовательское подразделение компании прямо пишет, что даже редкие сбои выравнивания целей у нынешних моделей могут со временем становиться чаще и одновременно хуже понятны людям. И это уже не тот случай, когда можно отмахнуться фразой «поправим в следующем релизе».

У Anthropic есть и цифры, которые должны показать масштаб ускорения. Компания утверждает, что во втором квартале 2026 года типичный инженер Anthropic мержит в восемь раз больше кода в день, чем в 2024-м. На сложных и слабо формализованных задачах программирования Claude, по внутренним данным, в мае 2026 года успешно справлялся в 76% случаев, прибавив 50 процентных пунктов за полгода. На внутреннем тесте, где каждой новой модели предлагают ускорить тренировочный код, результат вырос примерно с трехкратного ускорения у Claude Opus 4 в мае 2025 года до примерно 52-кратного у не выпущенной публично Mythos Preview к апрелю 2026-го. Для сравнения, опытному исследователю нужно от четырех до восьми часов, чтобы добиться лишь четырехкратного прироста на той же задаче.

Здесь, впрочем, начинается самое интересное. Сама Anthropic оговаривает, что число строк кода плохо отражает реальную производительность, а показатель «восемь раз больше кода» почти наверняка завышает фактический выигрыш. Еще один внутренний эксперимент, где модели в 64% случаев предлагали более удачный следующий исследовательский шаг, чем человек, опирался всего на 129 специально отобранных эпизодов, в которых решение человека изначально можно было улучшить. То есть это не честное лобовое сравнение «модель против исследователя», а демонстрация того, что при удачном подборе задач ИИ уже хорошо усиливает человека. Важная деталь: в отчете нет разреза, который отделял бы вклад именно петли самоулучшение ИИ от вклада вычислительных мощностей, новых данных и обычной работы исследовательских команд.

Эту слабую точку быстро заметили и критики. Когнитивист Гэри Маркус назвал публикацию Anthropic чем-то вроде подмены тезиса: компания, по его мнению, показала ускоренное программирование под человеческим управлением, а не реальное самостоятельное улучшение системы. Математик Ноа Джансиракуза из Bentley University в комментарии для Scientific American сказал еще прямее: он не считает это искренним призывом замедлить гонку. Скепсис понятен. Когда лаборатория одновременно говорит о риске потери контроля и демонстрирует, как ее модели резко повышают темп R&D, это читается не только как предупреждение, но и как заявка на лидерство в следующем раунде борьбы за вычислительные мощности, таланты и доверие регуляторов.

При этом Anthropic здесь совсем не одинока. Google еще в апреле сообщил, что 75% нового кода в компании уже генерируется ИИ и затем утверждается инженерами; осенью показатель был на уровне 50%. В OpenAI Codex описывали как очень раннюю версию ИИ-исследователя, а сама компания публично движется к более высокой степени автоматизации исследовательской работы. Китайская MiniMax в марте продвигала модель M2.7 как «самоэволюционирующую», заявляя, что та сама проводила раунды scaffold-оптимизации и брала на себя заметную часть RL-исследований. Да, большая часть таких заявлений остается внутренней и плохо воспроизводимой снаружи, но тренд уже виден: ИИ перестает быть только интерфейсом к тексту и все активнее становится участником инженерного конвейера.

Независимые оценки тоже показывают прогресс, хотя и без драматического «машина вот-вот уволит лабораторию». Организация METR в прошлом году сообщала, что длительность задач, которые ИИ способен решать с надежностью 50%, удваивается примерно каждые семь месяцев. На исследовательском бенчмарке RE-Bench лучшие агенты обгоняли людей-экспертов, если тем давали всего два часа, но уже на восьми часах люди возвращали преимущество, а на 32 часах почти вдвое превосходили лучший агентский результат. Иначе говоря, сильная сторона ИИ пока в коротких, четко очерченных рывках, а не в длинной, открытой исследовательской работе, где нужно держать контекст, менять гипотезы и переживать неприятные сюрпризы реальности.

Для разработчиков и техдиров главный вывод не в том, что завтра «потеряем контроль», а в том, что граница между copilot и автономным участником разработки быстро размывается. Это меняет требования к процессам: сильнее растет ценность ревью, трассируемости изменений, безопасных песочниц, внутренних evals и нормальной инженерной телеметрии. Для бизнеса история еще прозаичнее: реальным ограничителем гонки пока остаются не философские споры, а чипы, энергосеть, трансформаторы, межсоединения и очереди на подключение дата-центров. Если Anthropic права, то вопрос ближайших лет звучит не как «сможет ли ИИ улучшать себя», а как «кто сумеет построить инфраструктуру, в которой самоулучшение ИИ станет системным, но не неуправляемым процессом». Проверить исходный разбор и цифры можно в материале Tom's Hardware.

Поделиться: Telegram X LinkedIn