Хайп вокруг ИИ за последние месяцы снова разогнали до режима сирены: взломы, математические прорывы, самосовершенствующийся интеллект и обещания почти без потолка. Но 22 сентября MIT Technology Review пишет: после спокойной проверки экспертами многие громкие истории выглядят куда скромнее, чем в презентациях компаний, и это важный сигнал для разработчиков, бизнеса и регуляторов.
Поводом стала колонка Тимнит Гебру, исполнительного директора Distributed AI Research Institute, и Эмили М. Бендер, профессора лингвистики Вашингтонского университета. Их тезис простой и неприятный для индустрии: у технологических компаний есть сильный коммерческий стимул преувеличивать возможности ИИ. Причем речь не только о маркетинге ради продаж. По мнению авторов, ощущение срочности и бешеной скорости используется как инструмент давления на политиков и публику: мол, если не разрешить нам двигаться первыми, кто-то другой уже завтра построит нечто опаснее.
Летний набор сюжетов знаком каждому, кто читает технологические новости не по диагонали. Одни компании сообщают об инцидентах со взломами почти как о доказательстве мощи своих моделей: система якобы настолько автономна и опасна, что ее приходится сдерживать. Другие подают достижения в математике как шаг к универсальному разуму. Третьи говорят о перспективах рекурсивного самоулучшения, где ИИ сам делает следующий ИИ лучше, быстрее и сильнее. На заголовках это работает отлично. На инженерной проверке часто выясняется, что реальность состоит из ограничений, оговорок, ручной настройки и сильно суженного контекста.
Гебру и Бендер давно критикуют индустрию за подмену технического описания мифологией. Их позиция не сводится к тому, что большие языковые модели бесполезны. Наоборот, именно потому, что эти системы уже влияют на найм, образование, медиа, поддержку клиентов, разработку и безопасность, разговор о них должен быть точным. Когда модель уверенно генерирует текст, это не доказывает наличие понимания. Когда агент выполняет цепочку действий, это не значит, что он стал надежным автономным сотрудником. Когда демонстрация выглядит впечатляюще, это еще не продуктовая готовность.
На фоне этого спора вокруг возможностей ИИ усиливается политическая часть истории. В той же подборке MIT Technology Review говорится, что 22 страны выступили за создание нового глобального органа по надзору за ИИ, включая предварительное тестирование систем и общие стандарты безопасности. При этом США и Китай, две ключевые державы в гонке ИИ, в декларацию не вошли. Параллельно OpenAI продвигает собственное видение глобальных стандартов безопасности и хочет, чтобы именно США играли ведущую роль в международной координации. Получается знакомая картина: индустрия просит регулировать риски, но хочет сама сильно влиять на словарь, рамки и темп этого регулирования.
Рынок пока охотно верит в ускорение. AMD, по данным подборки, стала двенадцатой компанией с капитализацией в 1 трлн долларов, а ее акции с начала года выросли более чем на 180% на ожиданиях от продаж ИИ-чипов. Meta вывела ИИ-агента Muse на первое место в американском App Store, что помогло акциям компании показать сильный месяц. Но тут же рядом идут менее глянцевые детали: у Muse обнаружена серьезная уязвимость нулевого дня, а Amazon заблокировал агенту покупки на своей площадке. Для продакта это звучит почти как готовый чек-лист: рост установок не равен зрелости продукта, а агентность без контроля быстро превращается в операционный риск.
Инфраструктурная сторона тоже перестает быть невидимой. Техас приостановил выдачу новых разрешений для дата-центров до аудита электросети, Калифорния приняла законы, касающиеся потребления энергии и воды. Это уже не философская дискуссия о сверхинтеллекте, а вполне земная бухгалтерия: где взять электричество, кто платит за воду, выдержит ли сеть, что получат местные жители кроме шума, стройки и счетов. Для IT-директоров и фаундеров это означает, что стоимость ИИ-продуктов будет зависеть не только от качества модели, но и от доступности вычислений, энергии и регуляторных ограничений.
Для разработчиков практический вывод еще жестче: не надо принимать пресс-релиз за спецификацию. Если вендор обещает агенту автономную работу, стоит спрашивать о границах действий, логировании, правах доступа, откате операций и ответственности за ошибку. Если модель якобы решила сложную математическую задачу, важно понять, была ли это единичная демонстрация, бенчмарк, внешний инструмент или воспроизводимый результат. Если поставщик говорит о безопасности, полезно смотреть не на общие заявления, а на процедуру тестирования, disclosure-процесс, независимые аудиты и историю исправления уязвимостей.
Хайп вокруг ИИ опасен не тем, что компании продают будущее. Технологическая индустрия всегда этим занималась, иногда даже с пользой. Проблема начинается там, где будущее используют как аргумент против нормальной проверки настоящего. Бизнесу предлагают срочно внедрять, регуляторам — срочно не мешать, сотрудникам — срочно адаптироваться, инвесторам — срочно не упустить рост. В такой атмосфере скучные вопросы о точности, приватности, стоимости владения и юридической ответственности начинают выглядеть почти неприлично, хотя именно они решают судьбу реальных проектов.
Вероятно, ближайший год пройдет не под знаком одного большого разоблачения, а под знаком трезвления по частям. Одни ИИ-сервисы действительно станут рабочими инструментами, другие останутся эффектными демо, третьи упрются в безопасность, инфраструктуру или экономику. Русскоязычной IT-аудитории здесь полезна не вера и не цинизм, а инженерная привычка проверять: что именно система делает, на каких данных, с какой ценой ошибки и кто отвечает, когда хайп вокруг ИИ встречается с продакшеном.