Meta представила искусственный интеллект, который стал гораздо эффективнее человека в модерации контента. Новый инструмент, запущенный в масштабах всей компании, обрабатывает такие задачи, как сброс паролей, контроль за контентом и управление настройками безопасности.
Что нового предлагает Meta
Согласно результатам первых тестов, AI-система Meta смогла выявить 5000 мошеннических попыток в день, которые ее человеческие модераторы не смогли бы обнаружить. Например, одна из новых технологий автоматического выявления снизила количество жалоб на фальшивые аккаунты знаменитостей более чем на 80% и удвоила вероятность выявления противоправного контента.
Рынок контент-модерации и конкуренты
Современные платформы все чаще ищут решения на основе искусственного интеллекта, чтобы справиться с растущим объемом контента и мошенничества. В отличие от Meta, другие компании, такие как Twitter и TikTok, активно применяют AI для повышения безопасности своих развлечений, обращая внимание на необходимость защиты пользователей. Однако Meta восполняет упущения благодаря новым технологиям, которые обещают лучшее обнаружение и блокировку злонамеренные действия.
Практическое значение для пользователей
Внедрение этого AI значительно повысит безопасность пользователей платформ Meta, так как они будут видеть меньше фальшивого контента и мошенничества. Для владельцев бизнеса это тоже обнадеживающая новость: уменьшение количества нарушений правил приведет к большему доверию пользователей и снижению потерь от мошенничества.
Мы можем ожидать, что в ближайшие годы Meta продолжит инвестировать в AI-технологии, разрабатывая новые методы обеспечения безопасности и снижения мошенничества, что может изменить подход к содержимому на их платформах.