Cloud Native Computing Foundation (CNCF) заявила, что Kubernetes не справляется с безопасностью больших языковых моделей (LLM). Для организаций, внедряющих AI-системы, это важно, так как недостаточная защита может привести к серьезным последствиям.
Угрозы для AI-систем
Kubernetes хорошо управляет и изолирует рабочие нагрузки, но не контролирует поведение AI. Это создает новые риски: LLM могут обрабатывать недоверенные входные данные и принимать динамические решения. Например, когда LLM взаимодействует через API, Kubernetes гарантирует стабильность ресурсов, но не может определить, насколько безопасны входные команды.
По данным CNCF, организации, используя LLM, фактически создают новый уровень абстракции. Это может выставить их внутренние инструменты и данные под угрозу. Классические меры безопасности Kubernetes, такие как RBAC и сетевые политики, остаются важными, но не достаточными.
Необходимость в новой безопасности
На фоне растущей популярности AI и генеративных нагрузок, текущая модель безопасности Kubernetes не покрывает все риски. Программные средства для отсылки входных данных, фильтрации выходящей информации и ограничения доступа к инструментам должны быть внедрены на уровне приложений. CNCF подчеркивает: безопасность должна учитывать особенности AI-систем.
Аналитики уже обсуждают необходимость платформенной инженеринга с учетом AI, внедряя подходы вроде OWASP Top 10 для LLM. Это может помочь в развитии более продвинутых моделей поведения для качества и безопасности AI.
Практические выводы для разработчиков
Для российских компаний, работающих с LLM, это предупреждение критически важно. Внедряя AI-системы, необходимо повышать уровень безопасности, учитывая риски, которые традиционные меры не могут устранить. Внедрение AI-ориентированных функций безопасности поможет снизить вероятность утечки данных и несанкционированного доступа.
Дальнейшие шаги за CNCF — разработка и рекомендации по лучшим практикам безопасности для работы с LLM в рамках облачных инфраструктур.