В ходе анализа 16 открытых репозиториев AI-агентов исследователи выявили, что 76% вызовов инструментов не имеют защитных проверок. Это важный сигнал для разработчиков, поскольку такие небезопасные вызовы могут создавать серьёзные уязвимости в производственных приложениях.
Ситуация на рынке AI-агентов
AI-агенты становятся всё более популярными в бизнесе, применяясь для автоматизации различных процессов. Среди изученных репозиториев оказались как фреймворки для разработки (CrewAI, PraisonAI), так и готовые решения (Skyvern, Dify, Khoj). Применение AI-агентов повышает эффективность, но при этом возникают риски, связанные с безопасностью — и результаты данного анализа подтверждают это.
Основные результаты исследования
По данным анализа, из 16 изученных репозиториев оказалось, что 76% вызовов инструментов в Skyvern (595 файлов) не имеют никаких защит. Похожая ситуация в Dify (1,000+ файлов) — 75% вызовов оставили без проверки. Фреймворки вроде CrewAI и PraisonAI также демонстрируют высокие показатели небезопасных вызовов, до 89% и 78% соответственно.
В исследовании рассматривались функции, которые могут изменять реальный мир: записи в базу данных, удаление данных, HTTP-запросы, обработка платежей и отправка сообщений. Большинство небезопасных вызовов оказалось связано с действиями, которые могут иметь серьёзные последствия, такими как запись в базу данных или выполнение динамического кода.
Практические выводы для разработчиков
Для российских разработчиков это означает, что использование AI-агентов без должного контроля и защитных мер может привести к рискам по обеспечению безопасности данных. Обязательно необходимо внедрять в свои проекты защитные механизмы, такие как проверка входных данных, установки лимитов на запросы и другие меры, которые могут минимизировать потенциальные угрозы.
Следующий шаг для разработчиков — провести аудит своего кода. Это можно сделать всего за 60 секунд, следуя простым рекомендациям, которые помогут уменьшить уязвимости в их приложениях.