OpenAI сообщила о блокировке двух кластеров аккаунтов, которые, по оценке компании, работали из Китая и использовали влияние через ChatGPT для скрытых кампаний в американских технологических и политических спорах. Для IT-аудитории это важный сигнал: генеративные модели все чаще становятся не только рабочим инструментом, но и дешевой инфраструктурой для информационных операций вокруг ИИ, дата-центров и регулирования.
О схеме сообщает Tom's Hardware. По данным из полного отчета OpenAI, одна из операций под названием Data Center Bandwagon генерировала комментарии и комиксы для соцсетей, где дата-центры ИИ выставлялись виновниками роста бытовых счетов за электричество в США. Операторы писали запросы к ChatGPT на упрощенном китайском, заходили через VPN и выдавали себя в X за американцев с разным социальным и профессиональным бэкграундом. При этом, по оценке OpenAI, кампания почти не получила подлинного вовлечения: компания отнесла ее к первой категории по своей шкале Breakout Scale, то есть активность осталась в пределах одной платформы и не показала заметного выхода к реальной аудитории.
Сюжет для атаки выбрали не с потолка. В публикации упоминается реальный и довольно токсичный спор вокруг энергопотребления дата-центров. Независимый монитор рынка PJM Interconnection ранее связывал рост нагрузки со стороны дата-центров с увеличением энергозатрат в крупнейшем энергорегионе США: стоимость электроэнергии там выросла на 75,5%, а оптовые цены рядом с некоторыми кластерами дата-центров за пять лет подскочили до 267%. На этом фоне трое американских сенаторов потребовали объяснений у Amazon, Google и Meta по поводу того, перекладываются ли дополнительные расходы на обычных потребителей. Иными словами, влияние через ChatGPT пыталось не придумать проблему, а оседлать уже существующий нервный конфликт между ИИ-инфраструктурой, энергорынком и политикой.
OpenAI отдельно подчеркивает: это был не случай, когда операция создала дискуссию с нуля. По словам главного исследователя компании Бена Ниммо, речь шла скорее о попытке встроиться в уже идущие дебаты и усилить их готовым контентом. Один из запросов к модели касался комиксов о ценах на аукционах мощности у сетевого оператора на основе публикации региональной газеты; затем этот контент публиковали в X с хэштегами вроде #capacityauction и ссылками на настоящие новости. Так работает значительная часть современной дезинформации: фальшивка лучше цепляется не тогда, когда спор выдуман, а когда в нем уже есть цифры, злость и политический интерес.
Вторая кампания била по тарифам и репутации OpenAI
Второй кластер аккаунтов OpenAI назвала Tech and Tariffs. Он производил карикатуры и пакеты комментариев на темы тарифов, редкоземельных металлов, ИИ, 5G и промышленной устойчивости в конкуренции США и Китая. Контент делали на английском, итальянском, японском и традиционном китайском, причем последний был ориентирован на аудиторию Тайваня. Отдельная деталь из отчета хорошо показывает характер операции: оператор просил рисовать карикатуры с Дональдом Трампом, но без китайского лидера Си Цзиньпина. В той же сети фейковых аккаунтов распространялись ложные утверждения о том, что данные пользователей ChatGPT якобы были скомпрометированы. OpenAI трактует это как попытку ударить по ее собственной репутации.
Есть и еще один штрих, который стоит запомнить командам, строящим продукты на базе ИИ. Один из операторов прямо назвал сеть аккаунтов «водной армией» — китайским термином для координированных фабрик троллей — и попросил ChatGPT спроектировать систему для сбора и анализа постов пользователей, отмеченных как риск. По словам OpenAI, модель не помогла с таким сценарием и ограничилась общими советами по хранению данных, отказав в содействии именно по части сбора. Это важный момент для разработчиков и compliance-команд: защитные ограничения в моделях не делают злоупотребления невозможными, но повышают стоимость атаки и оставляют больше следов в самом процессе подготовки кампании.
Почему это важно не только OpenAI
В полном отчете OpenAI сравнивает новые операции с кампанией Spamouflage, которую в 2022 году исследовали ASPI и Mandiant. Тогда целью были компании, связанные с редкоземельными металлами, после того как Пекин выделил это направление в 14-м пятилетнем плане. Новая активность появилась уже после рекомендаций к 15-му пятилетнему плану, где ИИ поднят до уровня стратегической отрасли. Для бизнеса отсюда следует довольно практичный вывод: по мере того как инфраструктурные споры вокруг ИИ становятся дороже и политически чувствительнее, атаки будут идти не только по моделям, данным и API, но и по общественному восприятию стоимости ИИ. Если ваш продукт зависит от строительства дата-центров, энергетических соглашений, закупок чипов или господдержки, в контуре риска теперь нужно держать не только кибербезопасность, но и информационное сопровождение.
Для разработчиков и продуктовых команд эта история неприятна еще и тем, что она бьет по доверию к самой механике пользовательского контента. Когда однотипные комментарии, карикатуры и «мнения местных жителей» можно выпекать пакетами на нескольких языках, спор о тарифах, строительстве ЦОДов или доступности вычислений быстро перестает быть чисто экономическим. Он превращается в смесь реальных претензий, политического давления и синтетического шума. OpenAI в данном случае показывает важную, хотя и не слишком утешительную вещь: влияние через ChatGPT может оказаться не особенно эффективным в метриках вовлечения, но этого достаточно, чтобы засорять площадки, тестировать нарративы и постепенно подтачивать доверие к обсуждению как таковому. Подробности кейса приводит .