Meta объявила о сокращении числа человеческих модераторов контента в пользу систем, основанных на искусственном интеллекте. Этот шаг призван повысить скорость выявления нарушений и упростить модерирование. Переход произойдет в течение нескольких ближайших лет, и хотя компания не уточнила, сколько работников может оказаться под угрозой увольнения, сейчас Meta нанимает тысячи контрактников для проверки контента.
Причины изменения подхода
По словам представителей Meta, новые ИИ-системы будут более эффективными и смогут обрабатывать языки, на которых говорит 98% пользователей интернета, в отличие от 80 языков, поддерживаемых текущими модераторами. Это особенно актуально на фоне текущих претензий пользователей к системе, которые часто жалуются на неоднозначные решения, принимаемые ИИ.
Тесты и результаты
Компания уже проводит тестирование крупных языковых моделей (LLM) для модерации контента, и первые результаты показывают обнадеживающие итоги. Важно отметить, что люди сохранят роль в принятии критических решений, таких как рассмотрение апелляций по блокировке аккаунтов.
Значение для пользователей
Для пользователей это означает, что управление контентом станет более оперативным, однако многие могут столкнуться с трудностями в обращении к людям по сложным вопросам. ИИ должен снизить количество запретов за несущественные нарушения, увеличив точность модерации, что может повлиять на общее восприятие платформы среди пользователей.
В ближайшее время Meta запустит ИИ-помощника, который поможет пользователям решать проблемы с аккаунтом, включая восстановление доступа и управление жалобами.