Исследователи Peter James и Jonny L. Saunders заявили, что пользователи AI Muse от Meta могут с легкостью скачать всю файловую систему платформы. Это открытие вызывает серьезные вопросы о безопасности и защите данных в AI.
Что произошло
Разработчики получили возможность загрузить корневую файловую систему Muse, включая системные файлы Ubuntu и внутреннюю документацию, просто задав несколько вопросов. Saunders отметил на Mastodon, что процесс оказался таким же простым, что Muse имеет "почти нулевое сопротивление к инъекции команд".
Официальное заявление Meta
Представитель Meta, Дэниел Робертс, подтвердил, что пользователи могут видеть файлы, но это не дает доступа к инфраструктуре Meta или данным других пользователей. "Экспорт данных виртуальной машины не предоставляет привилегированный доступ к системам", — отметил он.
Тем не менее, это второй случай уязвимости Muse за неделю. Ранее исследователь безопасности Патрик Уорлд обнаружил эксплойт, который мог позволить злоумышленникам перехватить управление AI и перенаправить процесс транскрипции.
Как это затрагивает пользователей
Хотя уязвимость может вызвать озабоченность, возможность изучения функциональности Muse кажется благоприятной для разработчиков и исследователей. Нат Фридман из Meta Superintelligence Labs заявил, что Muse можно рассматривать как "бесплатный компьютер в облаке", позволяющий пользователям выполнять множество задач.
Для разработчиков в России и СНГ это сигнал о необходимости повышенного внимания к безопасности AI-платформ. Реализация надежных мер защиты может стать ключевым фактором для дальнейшего использования аналогичных технологий в бизнесе.
Следующий шаг Meta включает выпуск обновления безопасности после выявления предыдущих уязвимостей, что подчеркивает их стремление к улучшению системы защиты.