Исследование команды LayerX подтвердило угрозы кибербезопасности, выявив новый метод шрифтовой атаки, который позволяет злоумышленникам скрывать злонамеренные команды от AI-ассистентов. Этот подход вызывает серьезные проблемы безопасности, манипулируя воспринимаемым пользователем контентом.
Метод атаки и его последствия
По словам исследователей, метод атаки включает использование специально созданных шрифтов и CSS для подмены отображаемого текста на веб-страницах. AI-инструменты анализируют HTML-код и видят лишь безвредные слова, в то время как пользователи могут столкнуться с вредоносными инструкциями, замаскированными под привлекательные предложения.
Реакция производителей и советы пользователям
В ходе тестирования уязвимость оказалась успешной против нескольких популярных AI-ассистентов, включая ChatGPT и Microsoft Copilot. Команда LayerX обратилась к производителям затронутых AI-продуктов в декабре 2023 года, но большинство из них классифицировало проблему как «вне сферы» из-за необходимости социальной инженерии. Microsoft единственная признала уязвимость и запросила полный отчет для решения вопроса в своем Центре реагирования на инциденты (MSRC).
Пользователям рекомендуется с осторожностью обращаться к указаниям AI, осознавая риски, связанные с их использованием. В будущем команде LayerX и другим исследователям следует разработать более эффективные методы проверки безопасности контента.