NVIDIA HGX B300 GPUサーバー グラフィックスカード ビデオカード 2.1 TB 16 × NVIDIA Blackwell Ultra GPU 270 GB HBM3E 7.7 TB/s

技術仕様 HGX B300

GB300 NVL72

Blackwell Ultra GPU | Grace CPU

72 | 36

8 | 0

CPUコア数

2,592 Arm Neoverse V2コア

-

合計FP4 Tensor Core1

1,440 PFLOPS | 1,080 PFLOPS

144 PFLOPS | 108 PFLOPS

合計FP8/FP6 Tensor Core2

720 PFLOPS

72 PFLOPS

合計高速メモリ

37 TB

2.1 TB

合計メモリ帯域幅

576 TB/秒

62 TB/秒

合計NVLinkスイッチ帯域幅

130 TB/秒

14.4 TB/秒

個別のBlackwell Ultra GPU仕様

FP4 Tensor Core1

20 PFLOPS | 15 PFLOPS

18 PFLOPS | 14 PFLOPS

FP8/FP6 Tensor Core2

10 PFLOPS

9 PFLOPS

INT8 Tensor Core2

330 TOPS

307 TOPS

FP16/BF16 Tensor Core2

5 PFLOPS

4.5 PLFOPS

TF32 Tensor Core2

2.5 PFLOPS

2.2 PFLOPS

FP32

80 TFLOPS

75 TFLOPS

FP64/FP64 Tensor Core

1.3 TFLOPS

1.2 TFLOPS

GPUメモリ | 帯域幅

279 GB HBM3E | 8 TB/秒

270 GB HBM3E | 7.7 TB/秒

Multi-Instance GPU (MIG)

7

デコンプレッションエンジン

はい

デコーダー

7 NVDEC3

7 nvJPEG

最大熱設計電力 (TDP)

最大1,400 Wに設定可能

最大1,100 Wに設定可能

インターコネクト

第5世代NVLink：1.8 TB/秒

PCIe Gen6：256 GB/秒

サーバーオプション

NVIDIA GB300 NVL72パートナーおよびNVIDIA認定システム™

NVIDIA HGX B300パートナーおよびNVIDIA認定システム

1.疎行列 | 密行列における仕様

2.疎行列における仕様。密行列は表示された疎行列の1/2の仕様です。

3.対応フォーマットはH100 GPUよりも高速化を実現：H.264で2倍、HEVCで1.25倍、VP9で1.25倍。AV1