TikTok убрал прямой эфир Переса Хилтона с признаками самоповреждения лишь примерно через 15 минут после начала и объяснил задержку ошибкой модератора. Для площадки, которая обещает быстро пресекать такие материалы, это уже не разовый сбой, а вопрос к надежности модерации в реальном времени.
Автоматика заметила риск, люди не успели
По данным The Verge и WIRED, системы TikTok распознали проблемную трансляцию в первые минуты и передали ее модераторам в США. Но окончательное удаление затянулось: представитель компании Джейми Фавацца сказал, что причина была в ошибке модератора. TikTok оценивает задержку примерно в 15 минут, хотя часть зрителей говорила о получасе и дольше.
После жалоб сервис связался с полицией округа Майами-Дейд. Переса Хилтона, настоящее имя Марио Армандо Лавандейра-младший, доставили в больницу, а его аккаунт позже заблокировали за нарушение правил площадки. Материалы, связанные с суицидом, самоповреждением и графическим насилием, TikTok прямо запрещает.
Первый эфир стал проверкой для TikTok
Компания отдельно подчеркивает, что последующие эфиры снимали уже примерно за 90 секунд. Но это слабое утешение: главный сбой произошел именно в первом и самом заметном эпизоде, когда счет шел не на просмотры, а на минуты реакции.
История снова показала слабое место любой крупной платформы: записанные видео алгоритмы разбирают все лучше, а прямой эфир по-прежнему требует точного решения здесь и сейчас. Когда цепочка «алгоритм — модератор — удаление» дает сбой хотя бы в одном звене, платформа получает не только репутационный удар, но и новые вопросы к тому, как устроена ее система безопасности.
Значение для рынка
Для русскоязычных авторов, агентств и брендов вывод простой: прямые эфиры модерируются хуже, чем обычные публикации, и полагаться только на автоматические фильтры рискованно. Если бизнес работает с трансляциями в TikTok, YouTube или Twitch, ему нужен свой сценарий на кризисный случай: кто замечает проблему, кто останавливает эфир и кто берет на себя коммуникацию с аудиторией.
Теперь TikTok придется объяснять не только саму 15-минутную задержку, но и то, почему система, заметившая риск почти сразу, не довела решение до конца вовремя.