Власти Сан-Франциско потребовали от Apple и Google удалить из App Store и Google Play десятки приложений, которые «раздевают» людей на фото с помощью ИИ. Для рынка это уже не спор о модерации контента, а прямой юридический сигнал: nudify-приложения становятся токсичным активом не только для их разработчиков, но и для платформ, которые берут с них комиссию.
Как пишет TechCrunch, письма в адрес обеих компаний направил городской прокурор Сан-Франциско Дэвид Чиу. Его офис утверждает, что Apple и Google давно знали о таких сервисах, но продолжали размещать их в магазинах и обрабатывать платежи за функции, связанные с созданием несанкционированных интимных дипфейков. В письмах говорится, что компании «находятся в курсе» своей роли в незаконных покупках почти год, однако этого оказалось недостаточно, чтобы пресечь схему системно.
Юридическая опора у претензий вполне конкретная. Закон Калифорнии криминализует действия, которые сознательно упрощают или безрассудно помогают создавать порнографические дипфейки без согласия человека. В 2025 году в штате также приняли норму, позволяющую пострадавшим подавать гражданские иски против сторонних посредников, которые способствуют распространению такого контента. Иначе говоря, под ударом теперь не только авторы самого сервиса, но и инфраструктура вокруг него: витрины приложений, платежные механизмы и площадки дистрибуции.
Отдельно Чиу указывает на деньги. По его словам, Apple и Google зарабатывали на приложениях, которые эксплуатируют женщин и девушек, генерируя интимные дипфейки без их согласия. В письмах, которые изучил TechCrunch, офис прокурора напоминает: в январе и апреле 2026 года Tech Transparency Project публиковал отчеты и отправлял компаниям предупреждения о том, что в их магазинах остаются десятки приложений, продающих deepfake NCII, то есть несанкционированные интимные изображения, за платежи, проходящие через экосистемы самих Apple и Google. В апрельском отчете TTP утверждалось, что обе платформы не просто пропустили такие сервисы, а фактически подталкивали пользователей к ним через механики сторного поиска и рекомендаций.
Ответы компаний предсказуемо оборонительные, но показательные. Apple заявила, что nudify-приложения запрещены правилами App Store, и сообщила об удалении трех приложений из перечня, указанного в письме. Еще четыре разработчика, по словам компании, получили требование устранить нарушения, иначе их ждет удаление и прекращение участия в программе. Google сказала, что все пять приложений из письма уже отстранены от Google Play. Кроме того, компания заявила, что ранее уже заблокировала сотни нарушающих правила приложений и ограничила поисковые запросы вроде «nudify» внутри магазина. Формально обе корпорации показывают реакцию, но для регулятора это скорее подтверждение проблемы: если приложения реально были найдены и удалены, значит они успели пройти модерацию, дойти до пользователей и принести выручку.
Для разработчиков и продуктовых команд здесь важен не только моральный, но и вполне прикладной вывод. Эпоха, когда риск можно было спрятать за формулой «мы всего лишь платформа», заканчивается. Если ваш продукт работает с генеративной графикой, обработкой лиц, фотошаблонами или пользовательскими загрузками, недостаточно написать запрет в правилах и повесить кнопку жалобы. Придется доказывать, что у вас есть превентивная модерация, фильтрация запросов, ограничения на опасные сценарии, понятная процедура снятия контента и быстрая реакция на сигналы извне. Иначе платформа, которая монетизирует такую механику, сама становится участником претензии.
Есть и более широкий отраслевой эффект. До недавнего времени deepfake-порнография считалась в первую очередь проблемой знаменитостей, потому что именно их изображения проще всего найти и масштабировать. Но nudify-приложения убрали этот барьер: теперь мишенью может стать любой человек, у которого есть публичная фотография в соцсетях, мессенджере, корпоративном профиле или на сайте компании. Для HR-команд, руководителей по безопасности и юристов это означает новую категорию репутационных и персональных рисков. Для Apple и Google — новую реальность, в которой регуляторы будут спрашивать не о декларациях, а о том, почему опасный продукт вообще оказался на полке магазина и сколько успел заработать до удаления.
Следующий логичный вопрос уже не в том, исчезнут ли такие сервисы из витрин двух крупнейших магазинов приложений. Вопрос в другом: готовы ли платформы пересмотреть сам подход к проверке генеративных приложений, пока требования приходят из одного города и одного штата, а не превращаются в федеральную и международную практику.