TensorRT
Nvidia снизила трение при развертывании AI-моделей — работа стала быстрее на 30%
Nvidia представила стратегии снижения трения при развертывании AI-моделей, что ускоряет работу APIs на 30%.
NVIDIA ускорила вывод данных в Unreal Engine с TensorRT — увеличьте производительность на 29%
NVIDIA добавила поддержку TensorRT в Unreal Engine, обеспечивая до 29% прироста производительности для AI-процессов.
NVIDIA улучшила производительность AI-инфраструктуры — скорость вывода увеличилась до 1,45x
Скорость вывода FP8-ингредиентов CLIP от NVIDIA увеличилась до 1,45 раз. Узнайте, как это улучшает AI-инфраструктуру.
NVIDIA представила поддержку многопроцессорного вывода в TensorRT 11.0
TensorRT 11.0 теперь поддерживает высокопроизводительный вывод на нескольких GPU, что упрощает масштабирование AI на边.
NVIDIA улучшила TensorRT: управление процессами сборки теперь возможно
NVIDIA внедрила IProgressMonitor для отслеживания и отмены сборки TensorRT в Python и C++. Это увеличивает эффективность GPU.