Исследователи Google сообщили о том, что хакеры использовали искусственный интеллект для создания нулевого эксплойта, который мог обойти двухфакторную аутентификацию в популярном инструменте администрирования. Это первый случай, когда такие технологии применяются для генерации атакующих кода в кибербезопасности.
Как использовался ИИ
По этим Google Threat Intelligence Group, конструкция и содержание Python-кода эксплойта указывают на применение ИИ для поиска и эксплуатации уязвимости. В частности, скрипт содержит обилие документирующих строк и структурирован по образцу типичного формата, которого придерживаются языки программирования, использующие эти для обучения.
Хотя конкретный язык модели ИИ не установлен, Google исключает участие модели Gemini. Уязвимость имеет высокоуровневую семантическую природу, что делает её особенно подходящей для обнаружения системами ИИ, в отличие от уязвимостей, связанных с памятью или обработкой ввода, выявляемых методом «фуззинга».
Ситуация с киберугрозами
После того, как была обнаружена угроза, Google уведомила разработчиков о существующем риске и проведения оперативных мер для предотвращения атаки. Важно отметить, что помимо рассматриваемого случая, хакеры из Китая и Северной Кореи, такие как APT27 и APT45, активно используют ИИ для разработки эксплойтов и поиска уязвимостей.
Также упоминается операция российских хакеров, участники которой использовали технологии ИИ для создания дезориентирующего кода. Это всё указывает на растущую тенденцию внедрения ИИ в киберпреступность.
Значение для бизнеса
Для компаний это означает необходимость более серьёзного подхода к обеспечению безопасности информационных систем. Растущее использование ИИ в киберугрозах может повысить уровень угроз, поэтому стоит пересмотреть стратегии защиты и настройки безопасности. Переход на многослойную защиту и регулярное обновление программного обеспечения станут критически важными для предотвращения потенциальных атак.
Следующим шагом станет анализ новых уязвимостей и разработка методов защиты от аналогичных угроз в будущем. Кибербезопасности нужна проактивность в свете таких инцидентов.