OpenAI внедрила режим блокировки для ChatGPT, обеспечивая дополнительную защиту при работе с чувствительными данными. Этот функционал направлен на снижение последствий утечек данных из-за атак с инъекцией команд, что особенно важно для организаций, работающих с конфиденциальной информацией.
Новые меры безопасности
Режим блокировки доступен для всех зарегистрированных пользователей ChatGPT, включая бесплатные и платные тарифы. Как заявили в OpenAI, эта опция позволит ограничить использование инструментов и возможностей, которые могут подключаться к интернету, снижая вероятность утечек данных.
Включение режима блокировки означает отключение ряда функций, включая:
- Доступ к живому веб-броузингу, ограниченный только к кэшированным данным;
- Поддержку изображений в ответах;
- Режим глубокого исследования;
- Сетевое взаимодействие через Canvas;
- Возможность загрузки файлов.
Это шаг ориентирован на минимизацию уязвимостей, связанных с инъекциями команд, которые остаются проблемой для всех крупных языковых моделей. С её помощью обеспечивается ограничение исходящих сетевых запросов, что предотвращает передачи чувствительных данных на серверы злоумышленников.
Реальные угрозы и ограничения
Хотя режим блокировки значительно повышает безопасность, OpenAI подчеркивает, что он не гарантирует полной защиты от утечек. Атаки могут возникать через активированные приложения или неожиданные комбинации функций. Например, вредоносные инструкции в загруженных файлах все еще могут сказываться на поведении ChatGPT и приводить к ошибочным ответам.
В дополнение к этому Открытие внедрило новую функцию управления аккаунтом, позволяющую пользователям просматривать активные сессии ChatGPT и выходить из них в случае выявления несанкционированной активности. Эта функция отображает информацию о устройстве, приложении, приблизительном местоположении и времени входа.
Выводы для пользователей
Для профессионалов и организаций, обрабатывающих чувствительные данные, режим блокировки в ChatGPT — важный шаг к повышению безопасности. Он не только отвечает расширяющимся требованиям к защите данных, но и демонстрирует разумный подход к борьбе с современными киберугрозами.
Следующий шаг для OpenAI — продолжать развивать механизмы защиты данных и улучшение интерфейса управления аккаунтами для пользователей.