Исследователи продемонстрировали уязвимость AI-браузера Comet от Perplexity, обманув его в ходе фишинговой атаки менее чем за четыре минуты. Этот инцидент поднимает серьезные вопросы о кибербезопасности технологий, использующих искусственный интеллект.
Уязвимость AI-браузера Comet
Согласно отчету компании Guardio, уязвимость связана с тем, как AI-браузеры обрабатывают вводимую информацию и воспринимают свои действия. Браузер становится мишенью для фишинга, когда злоумышленники используют это поведение против него.
Методы атак на AI
Исследователь Шакед Чен отметил, что AI-браузер постоянно «беседует», описывая свои действия и стратегии, что делает его уязвимым для манипуляций. Злоумышленники смогли создать обманные страницы, адаптированные для атак на AI. Они исследовали сигналы, которые браузер распознает как подозрительные, и сумели изменить страницы, чтобы обмануть AI.
Эта атака подчеркивает важность пересмотра подходов к обучению AI-продуктов. Уязвимости, направленные на систему, значительно затрудняют защиту пользователей, так как при объяснении своих действий AI-браузер обучает атакующих, как его обмануть.
Для русскоязычной аудитории этот инцидент служит важным сигналом о необходимости повышения внимания к кибербезопасности используемых технологий. Вопрос защиты AI-систем становится актуальным как никогда.
Будущее безопасности AI-браузеров вызывает тревогу, что требует дальнейшего развития киберзащиты от таких атак.