Британская команда AI Security Institute (AISI) смогла за шесть часов вскрыть защиту ChatGPT, что поднимает серьезные вопросы о безопасности современных AI-систем. Это открывает доступ к опасным кибер-запросам и ставит под сомнение уровень защиты таких мощных моделей, как GPT-5.5.
Независимый аудит ИИ
AISI был создан в ноябре 2023 года в Блетчли-парке и состоит из примерно 100 экспертов, включая специалистов из британской разведки. Бюджет института составляет 360 миллионов фунтов (около 480 миллионов долларов) в год, в то время как аналогичные американские структуры получают лишь 10 миллионов. Причина этого — в приоритете британского правительства обеспечить безопасное развитие ИИ. Бывший премьер-министр Риши Сунак подчеркивает, что контролировать компании — задача демократических институтов.В процессе тестирования команды удалось установить, что ChatGPT, хотя и обладает определённой защитой, поддается вмешательству. Использование универсального промпта дало доступ к множеству кибер-запросов, включая опасные многоходовые сценарии. Эту проблему подтверждают предыдущие уязвимости в других моделях, таких как Claude и Gemini.
Реакция на уязвимости
Институт передает информацию о найденных уязвимостях компаниям — в том числе OpenAI — и надеется на их исправление. Хотя OpenAI уже объявила о закрытии данных уязвимостей, подтверждать информацию не спешит. По всей видимости, рынок также реагирует на подобные инциденты: аналогичные институции создаются в других странах, включая Австралию, Канаду и Китай, что говорит о мировой тенденции усиления контроля за безопасностью ИИ.Наши коллеги, эксперты по информатизации и безопасности, отмечают, что способность к кибератакам в AI-моделях является продуктом не целенаправленного обучения хакерству, а побочным эффектом улучшений в кодировании и автономности. Технический директор AISI, Джейд Леунг, предупреждает: "Разница в скорости вдохновляет беспокойство — технологии развиваются быстрее, чем правительства успевают реагировать".
Практическое значение для сектора ИТ
Для разработчиков и компаний, работающих с AI, очевидно, что уровень защиты сейчас часто не соответствует рискам. Учитывая скорость, с которой ИИ может выполнять сложные задачи, разработчики должны инвестировать в аудит и тестирование, чтобы избежать потенциальных угроз. Активация независимых команд может стать необходимостью в стратегии безопасности для бизнеса, работающего с ИИ.Следующий шаг — ожидание подробного отчета AISI, который, вероятно, дополнительно прояснит ситуацию и укажет на уязвимости не только ChatGPT, но и других моделей от ведущих ИТ-компаний.