Исследование Oasis Security выявило опасную уязвимость в NVIDIA NemoClaw, которая ставит под угрозу кибербезопасность локального сервера AI-модели. Вредоносная веб-страница может получить к нему неаутентифицированный доступ, что даёт возможность внедрять скрытые команды в модель.
Что такое NVIDIA NemoClaw?
NemoClaw — это open source платформа NVIDIA для запуска OpenClaw в изолированных песочницах. В конфигурациях с локальным выводом через Ollama платформа может оставить сервер модели без необходимой аутентификации, что фактически открывает двери для атак и позволяет подключаться к нему без защиты.
Детали уязвимости
Аналитики Oasis Security сообщают, что уязвимость позволяет изменять шаблоны чата, влияя на каждый последующий разговор с моделью. Уязвимая версия программного обеспечения, v0.0.34, присутствует на Windows и WSL, в то время как в последней версии v0.0.35 для macOS и Linux уязвимость была исправлена.
По словам специалистов, проблема заключается в ненадлежащей проверке заголовков Host и Origin, что позволяет злоумышленникам использовать DNS-rebinding для управления запросами к серверу.
Рекомендации для разработчиков
Для разработчиков и организаций, работающих с AI-технологиями, уязвимость подчеркивает необходимость пересмотра архитектуры своих приложений. Обновление версий программного обеспечения крайне важно для защиты от потенциальных угроз со стороны хакеров и недобросовестных пользователей.
Важно следить за обновлениями от NVIDIA, поскольку безопасная конфигурация и переход на защищённые версии помогут избежать компрометации AI-моделей в проектах.