Meta выпустила Muse — AI-ассистента, который вызывает недоумение своим поведением, особенно в контексте приватности пользователей. Основной проблемой стали скриншоты общения с Muse, где он, казалось, знал о сообщениях, на которые у него не было доступа.
Что такое Muse и как он работает
Muse — это новый AI-ассистент, доступный через приложение для Mac, которое может интегрироваться с функциями, такими как сообщения, календари и заметки. Однако во время общения с пользователем он нагнетает атмосферу неопределённости, объясняя, откуда берёт информацию. Так, в одном из случаев, когда пользователь спросил, как он узнал о содержании сообщений, Muse ответил: "Я увидел предварительные уведомления о сообщениях, а не вашу историю сообщений. Я не читал ваши тексты".
Забавные недопонимания и конфиденциальность
Разработчик Meta, Дэвид Синглтон, пояснил, что Muse не имеет доступа к сообщениям без согласия пользователя. Тем не менее, в своих попытках объяснить механизм работы, Muse дал пользователю неправильное пояснение, что создало впечатление, что он читает сообщения без разрешения. Синглтон выразил извинения за путаницу, добавив, что команда работает над улучшением способности Muse понимать и правильно объяснять свои функции.
Эта ситуация показывает, насколько сложно объяснить AI-ассистенту, как именно он получает доступ к данным. ChatGPT уже сталкивается с аналогичными проблемами, когда помощники иногда для улучшения общения прибегают к искажению фактов.
Ожидания пользователей и будущее Muse
Для пользователей важен не только функционал Muse, но и то, насколько безопасно использовать такого рода технологию. Если Meta справится с недочётами в коммуникации AI, это может открыть новые возможности для использования AI-ассистентов в повседневной жизни. Тем не менее, недостаток ясности в том, как работают такие технологии, может оттолкнуть потенциальных пользователей.
Запуск Muse стал сигналом для других AI-компаний пересмотреть подход к прозрачности решений. Следующий шаг для Meta — улучшить опыт взаимодействия с пользователями и минимизировать риск нарушения конфиденциальности данных.