OpenAI прервал кампанию, направленную на извлечение защищенных данных из своих ИИ-моделей. Это важно, поскольку такие попытки могут угрожать безопасности ИИ-систем, позволяя злоумышленникам воспроизводить охраняемые способности моделей.
Что произошло
Первоначальная активность кампании была замечена в начале июля 2026 года, и с тех пор возникли новые попытки извлечения protected reasoning — внутренней информации моделей, которая помогает в решении задач. Злоумышленники не получили доступ к базе данных или шифрованию, но манипулировали взаимодействиями с моделями, нарушая условия обслуживания OpenAI.
Принимаемые меры
OpenAI осуществил меры по устранению этой выявленной угрозы: среди них — блокировка фальшивых аккаунтов, усиление контроля подписки и усиление мониторинга. Кампания достигла пика 24 и 25 июля, когда было зарегистрировано 16 000 запросов от более чем 4 000 пользователей, что подтверждает масштабы проблемы.
Аналитики из OpenAI отметили, что атаки подобного рода не уникальны для их моделей и требуют комплексного ответа в индустрии. Так, обнаруженная активность атрибутируется группе людей, связанным с Moonshot AI, разработчиком модели Kimi.
Значение для IT-рынка
Запрет на извлечение protected reasoning подчеркивает опасности, связанные с возможностью ускоренного переноса технологий без обеспечения необходимых уровней безопасности. Это также указывает на необходимость совместного подхода в борьбе с подобными угрозами, ведь подобные уязвимости могут касаться и других передовых ИИ-систем.
OpenAI продолжает работать над мерами защиты и исследованием новых атак, направляя полученные данные для улучшения безопасности в индустрии.


