MoE

Nvidia представила новые MLP-ядра, увеличившие производительность до 93%
Nvidia выпустила MLP-ядра, которые улучшили производительность MoE до 93%. Какие преимущества это принесет разработчикам?

Nvidia установила рекорд по предварительному обучению MoE на GB300 NVL72 — 1,648 TFLOPs на GPU
Nvidia достигла рекорда в 1,648 TFLOPs на GPU, предварительно обучив модель DeepSeek-V3 с 671 миллиардом параметров.