332 объявления с AI-сгенерированными материалами сексуального насилия над детьми прошли через рекламную систему Facebook и Instagram. CSAM-реклама Meta важна не только как очередной провал модерации: она показывает, что рынок «nudify»-приложений уже умеет покупать трафик почти как обычный SaaS, а платформенная безопасность снова догоняет злоупотребления с заметным опозданием.
По данным Ars Technica, расследование Tech Transparency Project выявило рекламу, в которой использовались реальные фотографии несовершеннолетних девочек, включая снимок молодой представительницы европейской королевской семьи и изображения из популярного Instagram-профиля девочки-инфлюенсера. Эти фото превращали в сексуализированные AI-видео и использовали для продвижения приложений, которые «раздевают» людей на изображениях или генерируют откровенный контент по загруженным фото.
Большинство найденных объявлений, по данным TTP, продвигало AI-приложения китайского происхождения. Часть рекламы обещала пользователю отсутствие ограничений и работу с «реальными людьми». Формально это не серый UX и не спорная маркетинговая подача, а потенциальное нарушение законов о детской порнографии: Минюст США ранее указывал, что AI-сгенерированные материалы сексуального насилия над детьми причиняют такой же вред, как и реальные изображения.
Особенно неприятная деталь для Meta: это не первая партия. В августе TTP вместе с Wired уже указывали компании на 53 подобных объявления. Тогда Meta заявляла, что внедрила новые системы для лучшего выявления эксплуатации детей. После этого TTP нашла сотни новых объявлений того же типа. Wired отдельно обнаружил еще сотни связанных «nudification»-объявлений с откровенным контентом взрослых людей, вероятно созданным без их согласия.
Удаление тоже выглядело не как мгновенная реакция на очевидный инцидент. После того как TTP передала Meta более 300 объявлений, компания быстро убрала примерно половину из архива рекламы. Но часть материалов сначала не была помечена как нарушающая правила о детской эксплуатации. TTP считает, что такая практика может занижать реальный масштаб CSAM-рекламы Meta. В отдельных случаях объявления продолжали работать несколько дней после жалобы: один материал вырос с четырех показов до 330, хотя был отправлен на проверку в день запуска.
Модерация применялась непоследовательно. Meta могла удалить одно объявление с определенным изображением и текстом, но оставить почти идентичную копию, заявив, что она не нарушает рекламные стандарты. В других случаях отчеты с пометками о несовершеннолетнем человеке и возможной сексуальной эксплуатации рассматривались неделю или дольше, а иногда не приводили к удалению. Для рекламной платформы такого масштаба это не баг на краю системы, а проблема в процессе принятия решений: классификатор, ручная проверка, эскалация и учет нарушений явно не работают как единый контур.
Деньги в этой истории тоже есть. TTP связала часть объявлений с китайскими рекламными реселлерами Meta, включая GIMC, Meetsocial и BlueFocus. Ранее Reuters писал, что китайские реселлеры важны для Meta как канал доступа к рекламным бюджетам из Китая, где Facebook и Instagram заблокированы. В расследовании упоминаются и фейковые бизнес-страницы: локальные компании без контента и подписчиков, клоны страниц с одинаковыми фото, а также страница, выдававшая себя за структуру Церкви Иисуса Христа Святых последних дней. Meta отключила ее только после сигнала TTP.
Meta заявила Wired, что не допускает nudify-приложения и любые формы эксплуатации детей, реальные или сгенерированные ИИ. Компания также указала, что часть роликов ускользнула от автоматического обнаружения из-за коротких или размытых фрагментов, а общий бюджет найденных объявлений был меньше $5000 при среднем охвате менее 200 показов на рекламу. Но это слабое утешение: TTP сообщила, что объявления суммарно достигли более 29 000 человек в ЕС и 6800 человек в Великобритании, а около 80% показов приходилось на США.
Для разработчиков и рекламного бизнеса вывод простой и неприятный: генеративный ИИ резко снизил стоимость производства незаконного и вредоносного контента, а рекламные платформы пока проверяют его как старые баннеры с подозрительными лендингами. Тут нужны не только новые модели детекции, но и жесткая связка сигналов: происхождение креативов, поведение рекламодателя, повторяющиеся тексты, клоны страниц, реселлеры, жалобы исследователей и скорость остановки кампаний. Если один и тот же креатив проходит под разными обложками, проблема уже не в «сложности ИИ», а в архитектуре доверия.
Регуляторы уже двигаются к Meta с вопросами. Генпрокуроры Мичигана и Флориды изучают ситуацию, сенатор Марк Уорнер потребовал прекратить незаконную рекламу, а австралийский регулятор eSafety запросил у компании информацию на senior-уровне. Главный вопрос теперь не в том, сможет ли Meta удалить очередную пачку объявлений после публикации расследования. Вопрос в том, когда платформа начнет считать подобные рекламные кампании не модерационным хвостом, а системным риском для рекламного бизнеса и всей индустрии потребительского ИИ.