OpenAI 26 августа сообщила, что заблокировала российские аккаунты ChatGPT, которые через VPN обходили ограничения доступа и использовались в операции влияния. Для русскоязычной IT-аудитории это не просто еще один сюжет про дезинформацию: кейс показывает, как генеративный ИИ все чаще работает не как «фабрика фейков», а как недорогой обслуживающий слой для вполне взрослой инфраструктуры влияния.
По данным The Hacker News, речь идет о кластере учетных записей, которые генерировали посты и комментарии для Substack, Telegram, X, Facebook и LinkedIn. Эти материалы продвигали International Burke Institute, или IBI, организацию, называвшую себя экспертным сообществом из Израиля. В OpenAI говорят, что расследование началось с ИИ-сгенерированных публикаций, но быстро вывело на более широкую конструкцию: сайт с копированными и местами неверно атрибутированными академическими текстами, индекс «суверенитета», выгодно выставляющий Россию, и попытки скрыть российское происхождение операторов.
Охват у кампании, если верить OpenAI, был не гигантский. Компания оценивает аудиторию как сравнительно небольшую, хотя Telegram-каналы оказались заметно эффективнее остальных площадок и собрали примерно по 10-20 тысяч подписчиков каждый. Большая часть контента создавалась на английском, причем операторы отдельно инструктировали ChatGPT убирать языковые следы, которые могли бы выдать русскоязычное происхождение авторов. Это важная деталь: задача была не в том, чтобы просто нагенерировать много текста, а в том, чтобы он выглядел как продукт «нейтральной» международной структуры, а не очередного телеграм-цеха на аутсорсе у геополитики.
Бренд IBI был завязан на домен ibi[.]institute, зарегистрированный в феврале 2025 года. На сайте проект описывался как объединение ведущих мировых экспертов по экономике, политике, социологии и международным отношениям. OpenAI отдельно подчеркивает: у нее нет доказательств, что статьи на сайте писались в ChatGPT. Но и без этого картина получилась выразительная. Часть текстов, по оценке компании, была скопирована из академических работ, иногда с ложной атрибуцией. Другая часть, судя по стилистике, сначала писалась славяноязычным автором, а затем машинно переводилась на английский. То есть ИИ здесь был не единственным двигателем схемы, а удобным клеем между контентом, маскировкой и масштабированием.
Отдельного внимания заслуживает так называемый индекс суверенитета, он же Burke Index. На сайте объяснялось, что он строится по семи направлениям: политическому, экономическому, технологическому, информационному, культурному, когнитивному и военному. Каждое оценивается по шкале до 100 баллов, а суммарный результат лежит в диапазоне от 100 до 700. В опубликованной версии рейтинга США получили 650,9 балла, Китай 649,1, Швейцария 610,7, Россия 601,4. Сам по себе рейтинг выглядел как попытка завернуть политический месседж в упаковку think tank-аналитики: таблицы, методология, отчеты по странам, серьезный тон и нужный вывод на выходе. Для тех, кто делает продукты в ИИ или отвечает за trust and safety, это показательный пример того, что синтетический контент все чаще продается не напрямую, а через псевдоэкспертные интерфейсы доверия.
Активность не ограничивалась публикациями об IBI. По данным OpenAI, один из пользователей применял ChatGPT для создания аватара телеграм-канала American Observer и регулярно запрашивал русскоязычные сводки по его активности. Это уже похоже не на разовую генерацию постов, а на обслуживание контентной машины в нескольких форматах сразу: тексты для внешней аудитории, визуалы, внутренние сводки, адаптация под разные площадки. И здесь главный неприятный вывод для рынка в том, что современные операции влияния становятся модульными. Не нужен один магический ИИ-инструмент, который делает все. Достаточно набора сервисов, которые дешево закрывают рутину: перевод, стилизацию, вариации формулировок, подготовку графики, упаковку «исследований» в читабельный вид.
Для разработчиков и продуктовых команд история про российские аккаунты ChatGPT важна еще и в прикладном смысле. Во-первых, платформы будут жестче смотреть на обход географических ограничений, а связка VPN плюс массовая генерация политического контента уже выглядит как готовый триггер для детекта. Во-вторых, кейс снова показывает слабое место многих антиабуз-систем: отдельный пост, картинка или комментарий могут выглядеть безобидно, но в связке с сайтом, индексом, псевдоэкспертами и сетью каналов превращаются в инфраструктуру влияния. В-третьих, это плохая новость для любого бизнеса, который строит автоматизацию поверх LLM и надеется, что вопрос доверия можно закрыть пользовательским соглашением. Нельзя. Нужны корреляция сигналов, анализ цепочек распространения, а не только фильтрация по словам и темам.
OpenAI отдельно отмечает, что значение этой кампании было не столько в достигнутой аудитории, сколько в собранной инфраструктуре. Это, пожалуй, и есть главный вывод. Генеративный ИИ пока не сделал такие операции автоматически массовыми, зато сильно снизил стоимость обслуживания псевдодостоверности. Следующий раунд борьбы пойдет уже не вокруг вопроса, может ли модель написать пропагандистский пост, а вокруг того, кто быстрее научится распознавать целые фабрики доверия, собранные из доменов, индексов, «экспертов», соцсетей и аккуратно причесанного машиной текста.