AI И НЕЙРОСЕТИ

OpenAI остановил масштабную кампанию по извлечению данных из моделей

OpenAI предотвратил масштабную кампанию по извлечению защищённых данных из своих моделей, что угрожает безопасности ИИ.

✍️ Редакция iTech News | 23.07.2025 | ⏱ 2 мин | Источник: OpenAI Blog
🎯

OpenAI прервал кампанию, направленную на извлечение защищенных данных из своих ИИ-моделей. Это важно, поскольку такие попытки могут угрожать безопасности ИИ-систем, позволяя злоумышленникам воспроизводить охраняемые способности моделей.

Что произошло

Первоначальная активность кампании была замечена в начале июля 2026 года, и с тех пор возникли новые попытки извлечения protected reasoning — внутренней информации моделей, которая помогает в решении задач. Злоумышленники не получили доступ к базе данных или шифрованию, но манипулировали взаимодействиями с моделями, нарушая условия обслуживания OpenAI.

Принимаемые меры

OpenAI осуществил меры по устранению этой выявленной угрозы: среди них — блокировка фальшивых аккаунтов, усиление контроля подписки и усиление мониторинга. Кампания достигла пика 24 и 25 июля, когда было зарегистрировано 16 000 запросов от более чем 4 000 пользователей, что подтверждает масштабы проблемы.

Аналитики из OpenAI отметили, что атаки подобного рода не уникальны для их моделей и требуют комплексного ответа в индустрии. Так, обнаруженная активность атрибутируется группе людей, связанным с Moonshot AI, разработчиком модели Kimi.

Значение для IT-рынка

Запрет на извлечение protected reasoning подчеркивает опасности, связанные с возможностью ускоренного переноса технологий без обеспечения необходимых уровней безопасности. Это также указывает на необходимость совместного подхода в борьбе с подобными угрозами, ведь подобные уязвимости могут касаться и других передовых ИИ-систем.

OpenAI продолжает работать над мерами защиты и исследованием новых атак, направляя полученные данные для улучшения безопасности в индустрии.

Поделиться: Telegram X LinkedIn