NVIDIA Grace Hopper / Blackwell (2024)（エヌビディアグレースブラックウェル）
NVIDIAが提供する、ARMベースのGrace CPUとBlackwell GPUを高度に統合した次世代データセンター向けアーキテクチャ。大規模言語モデル（LLM）の学習・推論を極限まで加速させるための基盤技術。
概要
NVIDIAのデータセンター向けアーキテクチャは、単なるプロセッサの進化を超え、CPUとGPUを一つの巨大な計算ユニットとして扱う「スケーラブル・コンピューティング」へと移行している。Grace CPU（ARM Neoverse V2）とBlack意のBlackwell GPUをNVLinkで統合することで、従来のPCIe接続ではボトルネックとなっていたメモリ共有と通信遅延を解消。特にGB200 NVL72のようなラック規模の構成では、72基のGPUが単一の巨大なGPUとして機能し、1.4 ExaFLOPS（FP4）という驚異的な演算性能を実現する。
スペック表
| コンポーネント | アーキテクチャ/コア数 | メモリ仕様 | 特徴的な技術 |
|---|---|---|---|
| Grace CPU | ARM Neoverse V2 (72C) | 512GB LPDDR5X | 高帯域・低遅延メモリ |
| Grace Hopper (GH200) | Grace + Hopper H100 | 200GB HBM3 | NVLink-C2C (900GB/s) |
| Blackwell B200 | 208B Transistors (4nm) | 192GB HBM3e | 第2世代Transformer Engine |
| GB200 NVL72 | 36 Grace + 7なる 72 Blackwell | Rack-scale Unified Memory | Liquid Cooling / NVLink Switch |
比較表：Hopper vs Blackwell アーキテクチャ
| 項目 | Hopper (H100/GH200) | Blackwell (B200/GB200) |
|---|---|---|
| トランジスタ数 | - | 約2,080億個 |
| メモリ規格 | HBM3 | HBM3e |
| インターコネクト | NVLink (900GB/s) | NVLink Switch (28.8Tbps) |
| 主な演算精度 | FP8 / FP16 | FP4 / FP6 / FP8 |
関連用語との違い
- Superchip vs Discrete GPU: 単体のGPUは独立したプロセッサだが、Superchip（GH200/GB200）はCPUとGPUが高速なNVLink-C2Cで接続され、メモリ空間を共有・統合して扱う。
- NVLink Switch vs PCIe: PCIeはホストとデバイス間の通信規格だが、NVLink SwitchはGPU間を網状に接続し、ラック全体を一つの巨大な演算リソースとして機能させるためのスイッチング技術である。
FAQ
Q1: なぜGB200 NVL72では液冷（Liquid Cooling）が必須なのですか？ A1: Blackwell世代の極めて高い電力密度と、ラック規模での集中的な演算に伴う熱量を効率的に除去するためです。空冷では冷却能力が不足し、性能低下（サーマルスロットリング）を招くため、次世代データセンター設計の要となっています。
Q2: HBM3eへの移行によるメリットは何ですか？ A2: LLM（大規模言語モデル）のパラメータ数増大に伴い、メモリ帯域と容量の確保が最優先課題となっています。HBM3eは従来のHBM3よりも高い帯域幅を提供し、巨大なモデルの推論・学習におけるデータ転送待ちを最小化します。
Q3: クラウドプロバイダー（CSP）への影響は？ A3: AWS, GCP, Azureなどの主要CSPは、このアーキテクチャを大量導入しています。これにより、ユーザーは自前で巨大なインフラを持たずとも、クラウド経由で数兆パラメータ規模のモデルを高速に実行・学習できる環境が整います。