За одно лето AI-хайп успел пройти полный круг: от заявлений Anthropic о модели, которая якобы ищет уязвимости лучше большинства экспертов, до разговоров о гонке к самосовершенствующемуся суперинтеллекту. Для русскоязычной IT-аудитории это не спор философов на конференции, а практичный вопрос: кому верить, когда вендор продает продукт, регулятор готовит закон, а пресса уже нажала кнопку паники.
Поводом стала колонка исследовательниц Тимнит Гебру и Эмили М. Бендер, опубликованная 22 сентября: как пишет MIT Technology Review, серия летних новостей вокруг ИИ выглядела как цепочка технологических прорывов, но при ближайшем разборе многие истории оказались куда менее героическими. Авторы предлагают смотреть не на драматичные формулировки про «сбежавшие модели», а на действия компаний, качество доказательств и интересы рынка.
Хронология началась в конце апреля, когда Anthropic заявила, что ее Claude Mythos лучше большинства специалистов по безопасности находит программные уязвимости. Затем последовал инцидент с OpenAI и Hugging Face, после которого Anthropic открыто, а Meta куда менее охотно рассказали о похожих случаях с участием своих моделей. В пресс-релизах и пересказах это легко превращалось в сюжет о почти автономных системах, которые сами куда-то проникли, что-то нашли и будто бы проявили волю. Но эксперты по кибербезопасности, на которых ссылаются авторы, видят в этой истории прежде всего не мистику машинного разума, а старую добрую проблему процессов: халатность, слабые базовые практики безопасности и удобную упаковку провала в футуристический нарратив.
Отдельная линия — математика. Anthropic объявила, что одна из ее моделей сделала математический прорыв. Затем OpenAI заявила о собственном достижении: ее чат-бот Astra якобы решил задачи, по которым не было прогресса как минимум десять лет. Первичная реакция части математиков была сильной, но после проверки тон изменился. По версии авторов колонки, результаты оказались не настолько новыми, как следовало из пресс-релиза, а некоторые исследователи обвинили OpenAI в некорректной атрибуции и заимствовании чужой работы. Профессор математики Нью-Йоркского университета Тристан Бакмастер за два дня до заявления OpenAI отдельно указал на проблему присвоения научного вклада. Для разработчиков и R&D-команд здесь важен простой урок: «модель решила задачу» — не то же самое, что воспроизводимый научный результат с ясным авторством, рецензированием и понятным вкладом.
Почему именно код и математика так часто становятся витриной AI-хайпа? Во-первых, эти области легко продаются как вершина человеческого интеллекта: если модель пишет код и доказывает теоремы, маркетинговый отдел уже слышит фанфары. Во-вторых, ответы там сравнительно проще проверять. Код можно прогнать, задачу — сверить, тест — автоматизировать. Это не делает систему «мыслящей», зато делает ее удобной для обучения, бенчмарков и эффектных демонстраций. Гебру и Бендер напоминают, что сотни математиков уже подписывали заявление о коммерческом стимуле индустрии завышать возможности продуктов и призывали политиков консультироваться с экспертами, а не с пресс-релизами.
Самая токсичная часть этой риторики — перенос ответственности с компаний на продукты. Когда говорят «модель взбунтовалась» или «агент вышел из-под контроля», у слушателя возникает образ самостоятельного цифрового субъекта. Но юридически, инженерно и организационно решения принимают люди: кто собирал данные, кто ставил цели, кто выпускал систему, кто экономил на проверках, кто формулировал заявления для СМИ. Антропоморфный язык выгоден бизнесу дважды: он делает продукт почти сверхчеловеческим и одновременно размывает вопрос, кто отвечает за ущерб, плагиат, небезопасный код или использование данных без согласия.
На этом фоне показательно заявление инженера Anthropic Джейкоба Коксона, который ушел из компании и заявил, что Anthropic и OpenAI якобы «мчатся» к самосовершенствующемуся суперинтеллекту, рискуя жизнями людей. Такая формулировка отлично разлетается в соцсетях, но авторы колонки считают подобные страхи не инженерной оценкой, а частью идеологических сюжетов о будущих цифровых существах. Для бизнеса это особенно опасный шум: пока все спорят о гипотетической машинной сверхволе, на второй план уходят куда более проверяемые вопросы — стоимость инфраструктуры, энергопотребление дата-центров, доступ к воде для охлаждения, рост счетов за электричество и влияние на местные сообщества.
Регуляторы тоже попадают в ловушку скорости. Если индустрия убеждает политиков, что «суперинтеллект» уже за углом, решения начинают приниматься в режиме тревожной рассылки: быстро, широко и часто не по тому объекту. В источнике отдельно упоминается законопроект сенатора Берни Сандерса, направленный на предотвращение разработки «искусственного суперинтеллекта»: намерение понятное, но рамка, по мнению авторов, ошибочная. Вместо обсуждения конкретных нарушений, аудита систем, прозрачности данных и ответственности компаний внимание уезжает к образу почти мифической машины.
Для российских и русскоязычных IT-команд вывод довольно приземленный. Когда поставщик говорит о «прорыве», стоит просить не восторженную презентацию, а проверяемые материалы: методику, ограничения, независимые оценки, условия бенчмарка, данные об инцидентах и понятную схему ответственности. Когда кандидат на внедрение обещает заменить сеньорных разработчиков, безопасников или исследователей, полезно спросить, кто будет проверять результат и кто подпишется под ошибкой. AI-хайп не отменяет ценности LLM и агентных систем, но делает зрелую закупку и инженерную экспертизу дороже — не в деньгах, а во внимании.
Следующий виток громких заявлений почти наверняка придет под теми же вывесками: код, математика, безопасность, автономные агенты, риск «сверхразума». Более здоровая реакция рынка — не отрицать прогресс и не хлопать дверью, а замедлить темп обсуждения: отделять демонстрацию от доказательства, продукт от пресс-релиза, а ответственность компании — от красивой сказки о машине, которая будто бы сама все решила.