NVIDIA B200 スペック B200 SXM6 HBM3E 192GB Blackwell GPU for AI (2026) ビデオカード
NVIDIA B200 スペック B200 SXM6 HBM3E 192GB Blackwell GPU for AI (2026) ビデオカード
NVIDIA B200スペック B200 SXM6 HBM3E 192GB AI向けBlackwell GPU (2026年) ビデオカード
B200の主要スペック
| スペック | B200 | H200（参考） | H100（参考） |
|---|---|---|---|
| アーキテクチャ | Blackwell (GB200) | Hopper | Hopper |
| トランジスタ数 | 2080億 | 800億 | 800億 |
| メモリ | 192GB HBM3e | 141GB HBM3e | 80GB HBM3 |
| メモリ帯域幅 | 最大8 TB/s | 4.8 TB/s | 3.35 TB/s |
| FP4 Tensor Core | あり（ネイティブ） | なし | なし |
| FP8 Tensor Core | あり（第2世代） | あり | あり |
| Transformer Engine | 第2世代 | 第1世代 | 第1世代 |
| NVLink | 第5世代 (1.8 TB/s) | 第4世代 (900 GB/s) | 第4世代 (900 GB/s) |
| TDP | 最大1000W | 最大700W | 最大700W |
| 製造プロセス | TSMC 4NP | TSMC 4N | TSMC 4N |
アーキテクチャ：Blackwellによる変更点
第2世代Transformer Engine
AIワークロードにおける最大の改善点は、ネイティブFP4サポートを備えた第2世代Transformer Engineです。
- FP4精度 — 推論用の4ビット浮動小数点。FP8と比較してメモリ使用量を半分にし、単一GPUでより大規模なモデルやより高いバッチサイズを可能にします。
- 動的精度管理 — 各レイヤーに必要なものに応じて、FP4、FP8、FP16間で自動的に切り替わります。
- 高スループット — アーキテクチャの改善と合わせて、NVIDIAはH100と比較して最大4倍の推論性能を主張しています。
FP4はLLM推論に特に大きな影響を与えます。H100でFP8で80GBが必要なモデルは、B200でFP4を使用すると約40GBしか必要とせず、KVキャッシュとバッチ処理のために150GB以上が空きます。
192GB HBM3eメモリ
メモリの大幅な向上は以下の通りです。
| GPU | メモリ | メモリ帯域幅 |
|---|---|---|
| H100 | 80GB HBM3 | 3.35 TB/s |
| H200 | 141GB HBM3e | 4.8 TB/s |
| B200 | 192GB HBM3e | 最大8 TB/s |
192GBが意味することは以下の通りです。
- Llama 70B (FP16) は単一のGPU (140GB) に収まり、KVキャッシュ用に52GBの余裕があります。
- Llama 70B (FP8) は70GBしか必要とせず、大規模なバッチサイズのために122GBが空きます。
- Llama 405B (FP4) は、2つのB200に収まる可能性があります。
- 単一のGPUから複数のモデル を同時に提供できます。
NVLink 第5世代
NVLinkの帯域幅は、GPUあたり900 GB/s (H100/H200) から1.8 TB/sへと2倍になります。これはマルチGPUトレーニングにとって以下を意味します。
- 分散トレーニング中の勾配同期の高速化
- 大規模モデル推論のためのより効率的なテンソル並列処理
- ノードあたり4-8個のGPUを使用する場合のより良いスケーリング効率
GB200とNVL72
NVIDIAは、事前構成済みのラック規模システムでもB200を出荷しています。
- GB200 — NVLinkで接続された2つのB200 GPU + 1つのGrace CPUを備えたコンピューティングモジュール。
- GB200 NVL72 — 36個のGrace CPUと72個のB200 GPUをNVLinkで相互接続し、720ペタFLOPSのFP4計算能力を提供するフルラック。
これらは、データセンターレベルでの大規模なトレーニングと推論のために設計されています。
B200 vs H100 vs H200
LLM推論の場合
| 指標 | B200 | H200 | H100 |
|---|---|---|---|
| Llama 70B (FP8) トークン/秒 | ～H100の4倍* | ～H100の1.9倍 | 1倍（ベースライン） |
| Llama 70B FP8のメモリ | 70GB (122GB空き) | 70GB (71GB空き) | 70GB (10GB空き) |
| Llama 70B FP4のメモリ | ～35GB (157GB空き) | N/A (FP4なし) | N/A (FP4なし) |
| 最大バッチサイズ (70B FP8) | 非常に大規模 | 中規模 | 小規模 |
※NVIDIA発表値。実際のパフォーマンスは実装やワークロードによって異なります。
B200は、より多くのメモリ、より高い帯域幅、およびFP4サポートの組み合わせにより、70BモデルのシングルGPU提供を大規模で実用的にする可能性があります。これはH100では厳しく、H200では快適ですが最適ではありません。
トレーニングの場合
NVIDIAは、H100と比較してGPTクラスのモデルで最大4倍のトレーニング性能を主張しています。これは主に以下に起因します。
- より高いTensor Coreスループット
- FP8トレーニングの改善（第2世代Transformer Engine）
- マルチGPUスケーリングを改善するための2倍のNVLink帯域幅
- メモリ最適化技術の必要性を減らすより多くのメモリ
大規模モデルのトレーニングにおいて、B200は、ソフトウェアスタックが新しいハードウェア機能を完全に活用することを前提として、H100と比較してトレーニング時間（およびコスト）を3〜4倍削減できる可能性があります。