Китайская компания Zhupai AI представила новую языковую модель GLM-5.1, которая способна обрабатывать 21 500 запросов в секунду. Это значимое достижение для автономной работы AI, открывающее новые горизонты для бизнеса, который сможет настраивать модель под свои нужды.
Что нового в GLM-5.1
GLM-5.1 выпущена под лицензией MIT и доступна для загрузки на Hugging Face. Модель обладает мощью 754 миллиарда параметров и может работать до восьми часов над одной задачей. Важно, что этот релиз демонстрирует переход от обычной кодировки к более оптимизированным подходам в работе AI.
По словам Лу, руководителя Zhupai AI, ранее их агенты могли выполнять около 20 шагов, тогда как GLM-5.1 достигла 1 700. Эта модель представляет собой новый этап развития AI, где акцент сделан на производительности и настройке стратегий, избегая эффектов плато, которые мешали предыдущим прототипам.
Технические достижения и инновации
GLM-5.1 использует так называемую «лестничную модель» оптимизации, которая позволяет модели переходить к структурным изменениям, увеличивая производительность на каждом шаге. В ходе экспериментов по оптимизации базы данных производительность модели увеличилась с 3 547 запросов в секунду до 21 500, что свидетельствует о глубоком понимании модели функциональности и способности проводить эксперименты с высокой точностью.
Один из примеров — оптимизация работы с запросами к векторной базе данных: с помощью структуральных изменений модель смогла резко увеличить скорость обработки данных. Это было достигнуто за счет внедрения двухступенчатого хода обработки и уменьшения объема передаваемых данных, что позволяет снизить загрузку на систему.
Что это значит для разработчиков
Для разработчиков и компаний в России это означает, что новый уровень автономной обработки данных теперь становится доступным. Внедрение подобных моделей может значительно повысить эффективность работы с большими объемами данных и ускорить процессы разработки.
Следующий шаг для Zhupai AI — расширение функционала GLM-5.1 и работа над новыми версиями моделей, что, по мнению экспертов, укрепит их позиции на рынке AI в ближайшие годы.
