Лишь 14% российских корпораций знают о методологии MLSecOps, что вызывает серьезные вопросы о безопасности разработки ИИ-систем. Согласно исследованию К2Тех и «Лаборатории Касперского», больше половины опрошенных (46%) не знакомы с данной практикой, а 40% знают о ней лишь в общих чертах.
Что такое MLSecOps и почему это важно
MLSecOps (Machine Learning Security Operations) — это подход, который интегрирует машинное обучение, DevOps и информационную безопасность. Он предполагает, что безопасность ИИ-систем обеспечивается на каждом этапе их жизненного цикла: от разработки до эксплуатации. Внедрение MLSecOps может значительно снизить риски информационной безопасности, так как основное внимание уделяется контролю за безопасностью моделей на всех этапах.
Текущая ситуация на рынке
38% российских компаний уже разрабатывают ИИ-решения, однако их уровень зрелости в области информационной безопасности не соответствует скорости внедрения новых технологий. Основная проблема заключается в том, что задачи безопасности распространены по разным функциям — от защиты данных до мониторинга эксплуатации. Это затрудняет создание единого подхода к безопасности.
Александр Лысенко, ведущий эксперт К2 Кибербезопасность, заявил: «Защитные подходы и специализированные решения появляются разрозненно, прежде всего в тех областях, где риски уже проявились на практике». Исследование показывает, что не все компании готовы внедрять меры контроля: только треть (32%) организаций имеет централизованный реестр моделей, что увеличивает риски запуска непроверенных артефактов.
Выводы для бизнеса
Проблема недостаточной осведомленности о методологии MLSecOps ставит под сомнение безопасность ИИ-систем внутри российских корпораций. Для бизнесов, работающих с ИИ, это сигнал к необходимости внедрения эффективных практик по безопасности, иначе они рискуют оказаться в уязвимом положении. Таким образом, компании должны немедленно уделить внимание внедрению единой методологии, чтобы минимизировать потенциальные угрозы и обеспечить надежность своих продуктов.
В предстоящие годы ожидается, что рынок MLSecOps будет развиваться, но для достижения максимально возможной безопасности организациям нужно будет активно повышать уровень своей осведомленности и внедрять лучшие практики работы с ИИ.