Google предотвратил нулевую уязвимость, разработанную с использованием искусственного интеллекта. Это первый случай, когда компания фиксирует атаку подобного рода, и это подчеркивает растущую угрозу от ИИ для кибербезопасности.
Как это произошло
По этим группы угроз Google (GTIG), злоумышленники собирались использовать уязвимость для «массовой атаки», позволяющей обходить двухфакторную аутентификацию в неизвестном open-source инструменте для администрирования веб-систем. Анализ кода уязвимости показал, что он может быть создан методом, ассоциированным с ИИ, включая так называемый «галлюцинированный» CVSS-скор, а также структурированное форматирование, характерное для данных, использующихся в обучении LLM.
Выявленные методы атаки
Уязвимость заключалась в высокоуровневом логическом семантическом дефекте, который возник из-за жесткого кода предположения о доверии в системе 2FA. Это выявление совпало с растущими беспокойствами относительно способностей ИИ в области кибербезопасности, особенно на фоне недавних уязвимостей в Linux, обнаруженных с помощью ИИ.
Google сообщил, что, хотя гасящее мероприятие было успешным, хакеры все чаще используют ИИ для выявления и эксплуатации уязвимостей. В частности, каждое открытие включает и целевое использование ИИ, например, нацеливание на компоненты, которые обеспечивают полезность систем на основе ИИ.
Что это значит для отрасли
В современных условиях российским организациям следует обратить внимание на возрастание роли ИИ в киберугрозах. У потенциальных атаках, подобных той, что была выявлена Google, есть шанс нанести ущерб всем, кто полагается на двухфакторную аутентификацию. Это сигнал для компаний усилить свои меры безопасности и рассмотреть варианты интеграции ИИ для противодействия новым угрозам.
Далее стоит ожидать, что Google и другие ИТ-компании будут активно работать над противодействием новым подходам хакеров, использующим ИИ для улучшения своих атак. Пройдет время, прежде чем мы увидим полные последствия этого инцидента.