Cloudflare и ETH Zurich разработали стратегии кэширования, которые помогут справиться с ИИ-трафиком, превышающим 10 миллиардов запросов в неделю. Для разработчиков это сигнал о необходимости пересмотра подходов в работе с кэшами, чтобы сохранить производительность и эффективность.
Контекст проблемы с ИИ-трафиком
Согласно этим инженеров Cloudflare, сейчас порядка 30% всего трафика их платформы приходит от автоматизированных систем, включая ботов для поиска и ИИ-помощников. При этом боты, использующие ИИ, генерируют 80% всех запросов от автоматизированных источников, что создает паттерны, отличающиеся от привычного поведения пользователей. Подобные изменения негативно влияют на задержки, коэффициент попадания в кэш и использование ресурсов CDN.
Как ИИ меняет кэширование
В традиционных условиях кэширования предполагалось, что запросы от пользователей можно предугадать. Однако алгоритмы ИИ действуют по-другому: уровень уникальности запрашиваемых URL составляет от 70 до 100%, что приводит к высокой «чистке» кэша. Это значит, что кэмеры не успевают сохранять часто запрашиваемый контент, что в свою очередь увеличивает нагрузку на исходные серверы и замедляет скорость ответа.
Эрике Слипер, инженеру Cloudflare, известно, что традиционные алгоритмы кэширования, такие как Least Recently Used (LRU), начинают давать сбой в условиях увеличенного ИИ-трафика. Она отметила, что им необходимо искать адаптивные решения, которые смогут эффективно работать с такими изменениями.
Новые подходы к кэшированию
В ответ на эти вызовы Cloudflare и ETH Zurich предложили несколько стратегий кэширования, учитывающих влияние ИИ. Одним из решений — разделение трафика от людей и ИИ на разные уровни кэша. Определяются новые алгоритмы замещения, например, на основе Least Frequently Used и First In, First Out, которые могут более эффективно обрабатывать уникальные запросы ботов.
Параллельно с этим, рекомендуется внедрять структурированные ленты и модели «оплата за обход», чтобы контролировать доступ ИИ к ресурсам без компрометации производительности кэширования.
Практические выводы для разработчиков
Нововведения от Cloudflare инициируют пересмотр архитектуры кэширования в контентных сетях. Для разработчиков, которые работают с ИИ, это значит, что необходимость внедрения индивидуальных стратегий станет критически важной. Сохранение производительности сайтов требует активного анализа трафика и выбор правильных инструментов для управления нагрузкой.
В ближайшие месяцы ожидается реализовать тестовые версии предложенных алгоритмов для анализа их эффективности в реальных условиях.
