Module de serveur GPU carte graphique IA NVIDIA GB300 NVL72
Module de serveur GPU carte graphique IA NVIDIA GB300 NVL72
Le NVIDIA GB300 NVL72 est doté d’une architecture entièrement refroidie par liquide à l’échelle du rack, qui intègre 72 GPU NVIDIA Blackwell Ultra et 36 CPU NVIDIA Grace™ basés sur Arm® en une seule plateforme. Le système offre 1,5 fois plus de FLOPS FP4 Tensor Core denses et 2 fois plus de performances d’attention que les GPU NVIDIA Blackwell. Il est spécialement conçu pour l’inférence à l’échelle des tests et les tâches de raisonnement de l’IA. Les usines d’IA accélérées par le GB300 NVL72 – exploitant NVIDIA Quantum-X800 InfiniBand ou Spectrum-X™ Ethernet, les SuperNIC™ ConnectX-8 et la gestion NVIDIA Mission Control – offrent une augmentation globale de 50 fois les performances de production des usines d’IA par rapport aux plateformes basées sur NVIDIA Hopper.
NVIDIA GB300 NVL72
| Configuration | 72 GPU NVIDIA Blackwell Ultra, 36 CPU NVIDIA Grace |
| Bande passante NVLink | 130 To/s |
| Mémoire rapide | 37 To |
| Mémoire GPU | Bande passante | 20 To | Jusqu’à 576 To/s |
| Mémoire CPU | Bande passante | 17 To LPDDR5X | 14 To/s |
| Nombre de cœurs CPU | 2 592 cœurs Arm Neoverse V2 |
| FP4 Tensor Core | 1440 | 10802 PFLOPS |
| FP8/FP6 Tensor Core | 720 PFLOPS |
| INT8 Tensor Core | 24 POPS |
| FP16/BF16 Tensor Core | 360 PFLOPS |
| TF32 Tensor Core | 180 PFLOPS |
| FP32 | 6 PFLOPS |
| FP64 / FP64 Tensor Core | 100 TFLOPS |
|
|
|