Почти два миллиона тестовых промптов с уникальными AWS-ключами, паролями и приватными ссылками помогли обнаружить утечки данных через ИИ сразу в нескольких звеньях рынка. Исследование HD Moore из компании Dragos показало: риск начинается не только у самой модели, но и у роутеров, хостингов и реселлеров, сообщает Ars Technica. Для команд, которые отправляют в LLM код, логи и внутренние документы, это плохая новость: галочка «не сохранять данные» сама по себе не создаёт периметр безопасности.
Moore подготовил набор «канареек» — работающих, но изолированных учётных данных AWS, SSH-паролей, уникальных URL, DNS-имён и ссылок на закрытые Git-репозитории. Каждый секрет попадал ровно в один запрос одному провайдеру, а инфраструктура для фиксации обращений находилась под контролем исследователя. Если ключом пытались воспользоваться или по секретной ссылке переходил неизвестный клиент, можно было сопоставить инцидент с конкретным маршрутом запроса, поставщиком и настройкой приватности.
Эксперимент выявил признаки компрометации как минимум трёх неназванных AI-хостингов. В одном из эпизодов злоумышленники забрали несколько сотен тестовых AWS-ключей, переданных в короткие окна в конце октября. Все запросы, отправленные этому провайдеру в указанные периоды, оказались похищены, включая те, что сервис отклонил ещё до запуска модели. Это указывает на перехват у входа в инфраструктуру, а не на ошибку в уже обработанном ответе модели. Похищенные ключи начали проверять в течение нескольких часов: атакующие искали доступ к S3, хранилищам секретов и параметров, пытались включать сервисы Amazon Bedrock и создавать новые IAM-учётные записи для закрепления. Всего тестовые учётные данные использовали в десятках тысяч вызовов AWS API.
Проблемы нашлись и там, где взлома, похоже, не требовалось. AI-роутер принимает запрос приложения и выбирает, на какой доступный inference-провайдер его отправить — например, по цене или доступности модели. Один промпт способен пройти через несколько посредников, и на каждом узле его нужно расшифровать для маршрутизации или обработки. По данным исследования, часть реселлеров включала логирование запросов, после чего содержащиеся в них тестовые реквизиты использовались посторонними. Moore проверял это сравнением: один и тот же запрос направлялся к одной модели через разных продавцов; следы появления секрета только на одном маршруте позволяли локализовать источник утечки.
Отдельный сигнал — обращения к секретным URL вопреки настройкам «не собирать данные» и Zero Data Retention (ZDR), при которых провайдер не должен хранить содержимое запроса. Системы неназванной китайской AI-лаборатории, как утверждает исследователь, открывали более половины секретных ссылок из промптов, отправленных её моделям с июля по октябрь. Среди запросов с пометками об отказе от сбора данных или ZDR доля достигала примерно двух третей. Обычно сканер появлялся через два-три дня. То же поведение наблюдалось, когда модели этой лаборатории продавались через ряд американских хостингов: выбор посредника из США не означал, что содержимое запроса осталось в США.
Есть и более отложенные эпизоды. Один американский хостинг обратился к секретному URL спустя два месяца после единственного запроса к его поисковому endpoint. Другой сканер возвращался к ссылкам через несколько дней независимо от того, каким роутером клиент дошёл до модели. Исследование не называет затронутые компании и не измеряет долю реальных пользовательских промптов, поэтому переносить выводы на весь рынок один к одному нельзя. Но сама методика с уникальными приманками даёт куда более предметные основания для расследования, чем очередное обещание поставщика о «защите корпоративных данных».
Практический вывод для разработчиков и ИБ-команд довольно приземлённый. Секреты, токены, пароли, закрытые URL и фрагменты конфигурации не должны попадать в промпт без необходимости — даже если сервис обещает нулевое хранение. Для задач с чувствительными данными стоит отказаться от автоматически выбранного пула поставщиков и явно закреплять допустимых upstream-провайдеров. Важны аудит маршрутов, договорные условия хранения, журналирование на своей стороне и техническая маскировка реквизитов до отправки. Самый строгий вариант — развернуть модель в собственной инфраструктуре; он дорог, но сокращает число организаций, которые видят запрос в открытом виде. Если это невозможно, прямой контракт с крупным провайдером обычно оставляет меньше неизвестных, чем цепочка из трёх брокеров и самого дешёвого inference-узла.
Главный вопрос теперь не в том, умеет ли модель хранить тайну, а в том, сколько систем успевают прочитать промпт до и после неё. Пока AI-рынок продаёт удобство единой точки доступа, утечки данных через ИИ будут оставаться риском цепочки поставки: достаточно одного непрозрачного посредника или скомпрометированного узла. Подробности эксперимента изложены в материале .


