AI-агент стартапа CodeWall успешно осуществил взлом внутреннего чат-бота McKinsey, Lilli, получив полный доступ всего за два часа. Этот инцидент поднимает важные вопросы о кибербезопасности AI-систем и их защите от потенциальных угроз.
Взлом чат-бота McKinsey
Исследователи из CodeWall использовали своего AI-агента для атаки на чат-бота, который стал доступен сотрудникам McKinsey в июле 2023 года. Lilli сейчас обслуживает более 40 000 сотрудников компании, обрабатывая свыше 500 000 запросов каждый месяц. По словам исследователей, агент использовал уязвимость, связанную с SQL-инъекцией, чтобы получить доступ к 46,5 миллиона сообщений и конфиденциальным файлам.
Конкретные цифры и последствия
В результате взлома, доступ к базе данных Lilli оказался открытым. Полученные данные включали 728 000 файлов с конфиденциальной информацией и 95 системных запросов, управляющих поведением AI. Эти элементы могли бы быть изменены злоумышленниками, что ставит под угрозу достоверность информации, предоставляемой консультантам.
Обнаружив уязвимость, CodeWall уведомила McKinsey, которая устранила все проблемы в течение нескольких часов и подтвердила отсутствие утечек данных. Тем не менее, инцидент подчеркивает нарастающую необходимость защиты AI-платформ от атак, поскольку технологии становятся всё более сложными.
Российским компаниям стоит обратить внимание на этот инцидент: развитие AI как киберугрозы — реальность. Понимание подобных угроз поможет заранее улучшить защиту систем на уровне организаций, так как враждебные AI-системы могут автоматизировать атаки.
