В 2023 году 37-летняя жительница Нью-Йорка, в прошлом снимавшаяся в порно, прогнала новый деловой портрет через систему распознавания лиц и нашла ролик со своим телом и чужим лицом. История хорошо показывает, почему дипфейк-порно давно перестало быть проблемой только для знаменитостей: для IT-рынка это уже вопрос происхождения данных, прав на цифровое тело и того, как платформы будут отличать защиту жертв от автоматического выжигания легального контента.
О случае Дженнифер, имя которой изменено, сообщает MIT Technology Review. Она ожидала, что поиск поднимет старые видео десятилетней давности, снятые, когда ей было чуть за 20. Вместо этого система вернула ещё и тревожную находку: один из тех роликов, но с подменённым лицом. Сначала Дженнифер решила, что перед ней просто другая актриса, пока не узнала характерный фон съёмки примерно 2013 года. По её словам, сервис всё равно опознал её по сохранившимся чертам лица: скулам, линии подбородка, форме бровей. Именно здесь разговор о дипфейках резко меняется: подмена затрагивает не только лицо жертвы, но и тело человека, который согласия на такую переработку тоже не давал.
Публичная дискуссия обычно крутится вокруг тех, чьи лица вставили в интимный контент. Это чаще всего известные женщины, хотя в последние годы в такие атаки всё чаще попадают обычные пользователи и подростки. Но вопрос «чьё это тело?» почти не звучит. Между тем для индустрии для взрослых это старая и массовая история. Адвокат Кори Сильверстайн, который работает с adult-сегментом, прямо говорит: тела порноактёров используют в дипфейках постоянно. Дженнифер называет себя «очень небольшой исполнительницей» и замечает, что если это случилось с ней, то может случиться практически с любым, кто когда-либо снимался в порно.
Исторически схема не новая. Ещё до генеративного ИИ пользователи вручную клеили лица знаменитостей к чужим телам, сначала почти кустарно, потом через After Effects и специализированные face-swap-инструменты. Сам термин deepfakes закрепился в ноябре 2017 года, когда пользователь Reddit под ником deepfakes выложил ролики с лицами Скарлетт Йоханссон и Галь Гадот, наложенными на тела порноактрис. В материале MIT Technology Review упоминаются Pepper XO и Mary Moody, чьи тела, как утверждается, использовались в подобных видео. Порог входа тогда уже был низким, а сегодня, с ростом качества генеративных моделей и распространением «раздевающих» приложений, ситуация стала заметно токсичнее: теперь можно не только менять лицо в готовом ролике, но и генерировать новое тело по образцам, украденным из чужой работы.
Отсюда вырастает вторая проблема, куда более близкая разработчикам и владельцам платформ: тренировочные данные. Порноактёры всё чаще опасаются, что их изображения и видео используются для обучения моделей, которые потом выпускают синтетический эротический контент и вытесняют живых исполнителей с рынка. Речь уже не только о пиратстве в старом смысле, когда ролик просто перезалили на другой сайт. Речь о том, что труд человека превращают в датасет, из которого модель учится, как должно выглядеть, двигаться и вести себя тело. А затем на базе этого можно собирать цифровых двойников без согласия автора, заставлять их участвовать в практиках, на которые реальный человек никогда бы не подписался, или даже использовать такие копии в мошеннических схемах против подписчиков и фанатов.
Психологический ущерб тоже описан куда точнее, чем обычно бывает в спорах о «просто картинках из интернета». Исследовательница Института стратегического диалога Энн Краанен использует термин embodied harms, то есть телесный вред, который возникает из-за цифрового контента, но проявляется вполне физически: от искажённого восприятия собственного тела до тревоги и избегания публичности. Юрист Эллисон Махони, работающая с пережившими насилие, говорит о депрессии, бессоннице, тревожности и суицидальных мыслях у тех, чьи лица попадают в несанкционированный интимный контент. Для людей, чьи тела использованы в дипфейк-порно, эффект похожий, но о нём говорят заметно реже. Дженнифер формулирует это жёстко: неприятно знать, что твоё тело стало частью чужого насилия.
На этом фоне особенно неприятно выглядит возможная побочка будущего регулирования. По словам собеседников издания, adult-авторы боятся, что борьба с несанкционированным интимным контентом в США создаст удобную лазейку для массового удаления их легальной работы из сети. Иными словами, платформы, регуляторы и правообладатели рискуют пойти по привычному пути «сначала снести, потом разбираться», а платить за это снова будут самые уязвимые участники рынка. Для IT-команд здесь нет простого ответа, но есть вполне прикладной список неудобных вопросов: как подтверждать согласие на использование внешности и тела, как маркировать происхождение обучающих данных, как строить takedown-процедуры без автоматического стирания легального контента и как разделять права на лицо, тело, перформанс и исходную запись. Пока индустрия спорит о безопасности генеративного ИИ в абстракции, рынок уже упёрся в гораздо более приземлённую вещь: цифровая идентичность человека состоит не только из лица, и модели это усвоили раньше, чем право и продуктовые политики.
Главный вопрос теперь не в том, можно ли ещё сильнее улучшить качество синтетического видео. Технически это и так происходит. Вопрос в другом: успеют ли платформы, разработчики и законодатели договориться о правилах для контента, где нарушаются сразу несколько слоёв согласия, или дипфейк-порно окончательно станет зоной, в которой чужое тело считается просто удобным сырьём.