Tumblr стал причиной паники среди пользователей, заблокировав многочисленные аккаунты из-за сбоя в автоматизированной системе модерации. В среду несколько десятков 'Sub-200' аккаунтов были необоснованно забанены, и среди них оказалась значительная доля учётных записей, принадлежащих транс-женщинам.
Предыстория инцидента
Массовые баны произошли на фоне недавних изменений в функционале платформы, что может свидетельствовать о низком качестве автоматизированной модерации. Tumblr ранее уже сталкивался с аналогичными проблемами, и на этот раз пользователи, пострадавшие от автоматических банов, выразили недовольство из-за недостатка прозрачности и детализации причин блокировок.Сообщается, что многие пользователи получили уведомления о стёртых аккаунтах с упоминанием о 'внутреннем отчёте', что вызывает вопросы о том, какие алгоритмы использовались при проверке контента. Отметим, что на протяжении всей истории Tumblr существовали обращения к администрации от транс-сообщества по поводу предвзятости модерации.
Реакция Tumblr и последствия
Ченда Нгак, глава коммуникаций материнской компании Tumblr Automattic, подтвердила, что многие из заблокированных аккаунтов были забанены ошибочно, и уже начался процесс их восстановления. "Наши системы нуждаются в доработке для улучшения работы и предотвращения ошибок, подобных этой", — добавила Нгак. Несмотря на официальные заявления, пользователи всё ещё остались недовольны и отмечают, что история нарушений прав пользователей на платформе, в частности среди транс-людей, в последние годы остаётся актуальной. В одном из инцидентов CEO Automattic столкнулся с недовольным пользователем, что привело к более широкой дискуссии об отношении платформы к своим пользователям.Зачем это важно для пользователей
Для русскоязычных пользователей Tumblr ситуация свидетельствует о необходимости обратить внимание на безопасность аккаунтов и важность активного мониторинга платформы. Текущая проблема автоматизированной модерации показывает, что подобные ошибки могут коснуться каждого, и это поднимает вопросы о том, как платформы справляются с ответственностью за свои алгоритмы.С пользователями, которые испытывают проблемы подобного рода, сложнее взаимодействовать, и как правило, последующие недостатки в модерации могут вызывать полное недовольство у аудитории.
Следующий шаг для Tumblr — обновление механизмов модерации и повышение прозрачности в общении с пользователями, чтобы восстановить доверие и минимизировать риск повторения таких инцидентов.