Уязвимость ChatGPhish в OpenAI ChatGPT позволяет злоумышленникам использовать Markdown-ссылки и изображения для осуществления фишинговых атак. Этот метод был детально описан исследователями безопасности из Permiso Security, которые предупреждают о рисках, связанных с неосмотрительным использованием AI-помощников.
Что такое ChatGPhish
Исследования показывают, что механизм рендеринга ответов ChatGPT автоматически доверяет Markdown-ссылкам и изображениями из сторонних страниц, которые были ранее обобщены. Как результат, при обработке вредоносной веб-страницы, AI может случайно утечь параметры пользователя, такие как IP-адрес и User-Agent, а также активировать вредоносные ссылки в своих ответах. Это происходит, когда злоумышленники встраивают свои инструкции на странице, которую ChatGPT обобщает.
Как это работает
В гипотетическом сценарии атаки злоумышленник может добавить небольшой код к любой веб-странице, которую жертва запрашивает для обобщения. Это приведет к тому, что изображения, размещенные у злоумышленника, будут загружены автоматически, раскрывая конфиденциальные данные пользователя. Более того, в ответах ChatGPT могут появляться злонамеренные Markdown-ссылки, QR-коды и ложные системные уведомления, что представляет собой серьезную угрозу для пользователей. Одна из особенностей ChatGPhish заключается в том, что злоумышленники могут обходить фильтры URL в десктопных версиях, таким образом более эффективно подстраивая свои атаки под обычные действия пользователя.
Влияние на безопасность
С данной уязвимостью предпринимателям и организациям следует быть особенно внимательными к страницам, которые они просят ChatGPT обобщить, так как они могут случайно открыть двери для атак. «Переход от электронных писем к браузерам значительно увеличивает потенциал атаки, — отмечают эксперты. — Теперь пользователю не нужно открывать опасные вложения или взаимодействовать с подозрительными сообщениями». Вместо этого достаточно задать AI вопрос об обычной веб-странице, и он может внедрить инструкции злоумышленников в свои ответы.
Следующие шаги
Разработчики и организации должны пересмотреть свои стратегии использования AI для обобщения информации и принимать дополнительные меры для защиты от угроз, исходящих от веб-контента.