Nvidia достигла рекордных результатов в области LLM — производительность на бенчмарке STAC-AI увеличилась до 2,8 раз с использованием архитектуры Blackwell. Это событие позволяет существенно повысить эффективность обработки финансовых данных и автоматизации торговых стратегий, что крайне важно для компаний, работающих на финансовых рынках.
Что такое STAC-AI и его значение
Strategic Technology Analysis Center (STAC) уже более 15 лет разрабатывает бенчмарки, посвящённые нагрузкам, важным для финансовой отрасли. Их новая система STAC-AI LANG6 позволяет оценить производительность LLM на различных платформах Nvidia, включая Llama 3.1 с 8 и 70 миллиардами параметров. В тестах использовались наборы данных, построенные на базе финансовых документов EDGAR, что позволяет анализировать отношения компаний с различными финансовыми концепциями.
Детали рекорда Nvidia
На тестах STAC-AI LANG6 Nvidia Blackwell продемонстрировала заметные улучшения как в пакетном, так и в интерактивном режимах. В зависимости от сценария, системы могут адаптироваться к различным нагрузкам, эффективно обрабатывая данные с задержкой всего 200 мс. Это улучшение делает LLM более привлекательными для аналитиков, так как теперь они могут быстрее извлекать важные данные из больших массивов финансовой информации.
Как это влияет на финансовый сектор
Для финансовых компаний, особенно стартапов и малых бизнесов, эффективное использование LLM может привести к значительному снижению операционных расходов и повышению точности прогнозов. Учитывая, что рынок финансовых технологий стремительно развивается, интеграция подобного программного обеспечения может обеспечить значительное конкурентное преимущество.
Следующий бенчмарк STAC-AI планируется на следующий квартал, где Nvidia продолжит улучшать свои модели LLM для финансов. Это сделает их продукты ещё более привлекательными на рынке