Согласно Шуману Гоземаджундеру, основателю группы Trust & Safety в Google, генеративный AI принимает все большее участие в распространении дезинформации. Он отметил, что новые инструменты создания контента используются для обмана и мошенничества, что ставит под угрозу безопасность онлайн-среды.
Рост использования AI в дезинформации
Гоземаджундер представил свое видение проблемы на конференции QCon, подчеркнув, что феномен, известный как «автоматизация дезинформации», становится все более распространенным. Он также привел примеры, как инструменты AI могут обойти CAPTCHA и другие системы защиты, имитируя человеческие действия с высокой точностью.
Показателем этой тенденции становится рост использования AI в различных сервисах, что подтверждается увеличением спроса на такие технологии. Например, общее количество пользователей AI-решений на рынке в 2022 году выросло на 63%, а ожидается, что к 2025 году этот показатель удвоится.
Необходимость в новых стратегиях кибербезопасности
По словам Гоземаджундера, компании должны принимать новые тактики защиты, внедряя стратегии «нулевого доверия» (zero trust). Как показал опыт, традиционные системы безопасности не способны эффективно противостоять автоматизированным атакам. Лучшим решением станет интеграция подходов cyber fusion, которые объединяют защиту этих и реагирование на инциденты в одном процессе.
Совсем недавно, по этим Gartner, 80% атак на кибербезопасность используют методы, основанные на AI. Это подчеркивает необходимость пересмотра текущих подходов к защищенности информационных систем и внедрения более современных решений.
Практические выводы для рынка
Для российских компаний необходимость обеспечить защиту от угроз, вызванных новыми AI-технологиями, становится критически важной. Внедрение систем с использованием методов аналитики этих покажет эффективность защиты, позволяя не только минимизировать риски, но и соответствовать международным стандартам безопасности.
Следующий шаг — разработка протоколов безопасности на основе нового понимания киберугроз, связанных с генеративным AI. Прогнозируется, что в 2026 году такие подходы станут стандартом для большинства крупных компаний, работающих в области ИТ.