Cisco представила новый инструмент — AI-BOM, который позволяет отслеживать использование AI-ресурсов в организациях. Это важно, поскольку традиционные списки материалов программного обеспечения (SBOM) уже не обеспечивают полный обзор компонентов, когда речь идет об AI-приложениях.
Почему AI-BOM стал необходим
Современные компании активно внедряют AI, но многие из них не имеют полного представления о своих AI-активах. Shadow AI, как его называют, — это несанкционированные инструменты и модели, которые сотрудники используют помимо официально разрешенных. Это может представлять серьезную угрозу безопасности: сотрудники взаимодействуют с чат-ботами и другими внешними сервисами, внося в них важные данные компании.
Как отметил Иэн Свонсон, вице-президент по безопасности AI в Palo Alto Networks, "представьте, что AI — это торт на празднике, но вы не знаете, как он был приготовлен". Без понимания источников и взаимодействия всех компонентов, организации рискуют "съесть кусочек" небезопасного торта.
Функции и преимущества AI-BOM
AI-BOM обеспечивает более глубокую видимость, включая не только модели, но и наборы данных, библиотеки SDK, серверы и фреймворки машинного обучения. Cisco уже сделала актуальный инструмент бесплатным для использования — это позволит быстро сканировать кодовые базы, контейнеры и облачные среды для создания списка AI-компонентов.
Добавление нового инструмента — Model Provenance Kit — позволит следить за происхождением моделей. По словам Эми Чанг, руководителя AI threat intelligence в Cisco, этот инструмент действует как "ДНК-тест" для AI-моделей, сравнивая их и определяя родственные связи.
Практическое значение для бизнеса
Для русскоязычных компаний, работающих с AI, использование AI-BOM станет важным шагом к пониманию и контролю своих AI-активов. Без этой проверки компании рискуют сталкиваться с уязвимостями и неправомерным использованием данных. Эффективные инструменты учета и мониторинга позволят минимизировать риски и повысить общую безопасность.
Следующий шаг для Cisco — дальнейшее развитие и распространение AI-BOM, что поможет большему числу организаций обеспечить безопасность выполнения AI-проектов.