Искусственный интеллект (ИИ) ставит перед бизнесом сложные вопросы кибербезопасности. Применение ИИ для защиты информационных систем связано с рисками, которые компании должны учитывать, чтобы избежать неприятных сюрпризов.
Ключевые вызовы кибербезопасности с ИИ
Среди основных загадок, связанных с ИИ в кибербезопасности, выделяются два основных аспекта: двойное использование технологий и отсутствие контроля над решениями ИИ. С одной стороны, ИИ может в разы улучшить обнаружение угроз, с другой — дать злоумышленникам доступ к новым, более совершенным методам атак.
По этим исследовательской группы Gartner, количество инцидентов с использованием ИИ, таких как фишинг и адаптивный вредоносный код, выросло на 30% за последний год. ИИ даже позволяет злоумышленникам создавать фальшивые видео и аудиозаписи, что усложняет верификацию информации.
Угрозы от автономных агентов и адаптивного вредоносного ПО
Автономные ИИ-агенты, способные действовать без человеческого вмешательства, представляют собой одну из наиболее серьезных угроз. Они могут запускать атаки программ-вымогателей, адаптируясь к системам безопасности и избегая традиционных методов защиты.
Кроме того, адаптивный вредоносный код способен учиться на ошибках, что делает его почти неуязвимым для обычных антивирусов. На этом фоне защита становится настоящей головоломкой для ИТ-отделов.
Необходимость регулярных аудитов и прозрачности
Для краткосрочной защиты бизнеса от этих рисков важно проводить регулярные аудиты ИТ-систем и применять принцип минимальных привилегий. Это поможет избежать доступа злоумышленников к чувствительным этим через несанкционированные ИИ-решения, известные как "теневой ИИ".
Как отмечает аналитик IDC Джереми Ли, "надежная защита ИТ-инфраструктуры требует не только передовых технологий, но и четких стратегий в управлении рисками".
Что делать бизнесу?
Разработчикам и руководителям ИТ-отделов следует присмотреться к обновлениям в области ИИ и кибербезопасности. Подготовьте стратегии реагирования на инциденты с учетом новых угроз, связанных с применением ИИ. Рынок ожидает, что до конца 2025 года на рынок выйдут новые решения, которые окажут влияние на безопасность.