Исследователи из Тель-Авивского университета обнаружили новую уязвимость под названием HalluSquatting, которая может использовать AI-ассистентов для установки ботнета на компьютеры пользователей. Эта атака может быть особенно опасна для разработчиков, использующих AI для написания кода и загрузки библиотек.
Как работает атака HalluSquatting
HalluSquatting основывается на двух особенностях работы AI: первой является "галлюцинация" — способность AI генерировать неправдоподобные, но правдоподобно звучащие названия. Второй особенностью является "инъекция запроса" — инструмент, который позволяет злоумышленникам манипулировать ответами AI, чтобы те соответствовали его интересам.
Злоумышленник идентифицирует популярный репозиторий или плагин, который активно запрашивается пользователями. Далее он повторно запрашивает этот ресурс через AI, фиксируя, какое неправдивое название будет сгенерировано чаще всего, а затем регистрирует это название в GitHub или магазине плагинов, подменяя оригинал вредоносной версией.
В тестах AI-ассистенты, такие как GitHub Copilot и Google Gemini CLI, сработали на 85% в 100% инсталляций с командой, содержащей вредоносные инструкции. Эти модели позволили злоумышленникам выполнить код, предназначенный для управления ботнетом.
Новые угрозы кибербезопасности
Традиционно ботнеты собираются на основе устаревших устройств с слабыми паролями и уязвимостями, которые позволяют им "расползаться". Однако новая угроза требует гораздо меньше усилий: без необходимости взлома паролей она направлена непосредственно через текст, который читает AI, делая её незаметной для большинства фаерволов и систем защиты.
Исследователи выделяют, что из-за того, что атака не зависит от спецификаций архитектуры компьютера, она представляет угрозу для множества различных ОС и устройств. Отметим, что предыдущие исследования аналогичных структур уже приводили к созданию саморазмножающихся червей и других вредоносных программ.
Что это значит для разработчиков и компаний
Для разработчиков и IT-компаний это значит необходимость более тщательного контроля доступа AI-ассистентов к ресурсам, а также критической оценки их ответов. Кибербезопасность должна быть интегрирована в процесс разработки программного обеспечения на всех этапах, чтобы предотвратить потенциальные атаки.
Исследователи уже сообщили о своих выводах производителям AI и операторам рынков. Важно, чтобы они не только исправили уязвимости, но и улучшили защиту от будущих потенциальных атак в этой развивающейся области.