SXM5(エスエックスエムファイブ)
NVIDIA H100/H200のAI学習用フォームファクタ。NVLink 4/5で900GB/s帯域、PCIeより2倍電力枠(700W)・HGX H100 8-wayでAI訓練クラスタ用途、DGX H200・Azure ND MI300xシリーズに搭載。
概要
SXM5(エスエックスエムファイブ)は、NVIDIA H100/H200向けに設計されたAI学習専用フォームファクタである。NVLink 4/5を採用し、900 GB/sの帯域幅を実現。PCIeに比べて電力枠が2倍に拡張され、最大700 Wを供給できる。HGX H100 8‑way構成は、AI訓練クラスタ用途に最適化され、DGX H200やAzure ND MI300xシリーズに組み込まれている。
主な特徴・仕組み
- 高速NVLink:NVLink 4/5で900 GB/sの双方向帯域を提供。
- 拡張電力枠:PCIe 5.0の最大電力枠を2倍に拡張し、700 Wまで供給可能。
- モジュール化:1枚のSXM5モジュールが最大8枚まで接続できる。
- 低レイテンシ:SXM5は直結型のインターフェースで、レイテンシを最小化。
- 熱設計:高性能ファンと熱伝導材を組み合わせ、安定稼働を保証。
- 互換性:NVIDIA H100/H200をベースに設計され、既存のHGX/HGXベースのシステムと統合可能。
- AI推論:H100/H200のTensor Coreを最大限に活用し、推論性能を向上。
- スケーラビリティ:8‑way構成で大規模クラスタを構築できる。
- エネルギー効率:700 Wの電力枠に対し、TDPは最大680 W。
- 次世代対応:2025年に予定される次世代NVLink 5.0に完全対応。
スペック/製品比較表
| 製品名 | フォームファクタ | NVLink帯域 | 電力枠 | 最大枚数 | メモリ | メモリ帯域 | 推論性能 | 発売年 | 備考 |
|---|---|---|---|---|---|---|---|---|---|
| NVIDIA H100 | SXM5 | 900 GB/s | 700 W | 8 | 80 GB HBM3 | 600 GB/s | 200 TFLOPS | 2024 | |
| NVIDIA H200 | SXM5 | 900 GB/s | 700 W | 8 | 80 GB HBM3 | 600 GB/s | 250 TFLOPS | 2025 | |
| DGX H200 | HGX H100 8‑way | 7200 GB/s | 5600 W | 8 | 640 GB HBM3 | 4800 GB/s | 1600 TFLOPS | 2025 | |
| Azure ND MI300x | SXM5 | 900 GB/s | 700 W | 8 | 80 GB HBM3 | 600 GB/s | 200 TFLOPS | 2025 | |
| HGX H100 8‑way | SXM5 | 7200 GB/s | 5600 W | 8 | 640 GB HBM3 | 4800 GB/s | 1600 TFLOPS | 2024 |
具体例・対応製品
- NVIDIA H100:SXM5に標準装備され、AI学習と推論の両方で使用。
- NVIDIA H200:次世代NVLink 5.0を採用し、さらに高い帯域を実現。
- DGX H200:HGX H100 8‑wayをベースに、エンタープライズ向けクラスタを提供。
- Azure ND MI300x:Microsoft Azureに搭載され、クラウド上での大規模AIワークロードに最適。
- HGX H100 8‑way:オンプレミスのAIデータセンター向けに設計。
自作PCでの選び方・注意点
- 電源容量:700 Wの電力枠を確保。12 Vレールは最低 60 A。
- 冷却性能:高熱設計に合わせ、タワーケースは大型ファンまたは水冷を推奨。
- PCIeレーン:NVLink 4/5はPCIe 5.0レーンを使用。x16レーンでの接続が必須。
- マザーボード:SXM5スロットを備えたサーバー向けボードを選択。
- メモリ帯域:HBM3の高帯域を活かすため、メモリクロックは最大 600 MHz。
- 電源モジュール:安定した電圧供給のため、電源モジュールは高効率(80 %以上)を選択。
- ファームウェア:NVLink 5.0対応のファームウェアを最新に保つ。
- OSとドライバ:CUDA 12.0以降、NVIDIA Driver 535以上をインストール。
- スケーラビリティ:8枚まで接続可能なため、将来の拡張を見越して余裕を持った設計。
- コスト:SXM5モジュールは高価。予算に応じてH100単体か、HGX 8‑way構成を選択。
関連用語との違い
- SXM4:SXM5よりもNVLink 3.0、帯域 400 GB/s、電力枠 500 W。SXM5は次世代NVLink 5.0で2倍の帯域を実現。
- PCIe 5.0:SXM5はPCIe 5.0レーンを利用するが、NVLink 5.0で帯域を拡張。
- HBM3:SXM5はHBM3を採用し、従来のGDDR6Xに比べて帯域が約3倍。
- DGX A100:HGX A100 8‑wayで、SXM5に比べてNVLink 4.0、帯域 4800 GB/s。SXM5はさらに高速。
よくある質問(FAQ)
Q1. SXM5は2026年のAIワークロードに対応していますか?
A1. はい。SXM5はNVLink 5.0に完全対応し、2026年に予定されるAIトレーニングフレームワークに最適化されています。
Q2. 700 Wの電力枠はどのように供給されますか?
A2. 12 Vレールを中心に供給し、電源ユニットは80 %以上の効率を持つものを推奨。
Q3. SXM5を複数枚接続する場合、レイテンシは増加しますか?
A3. NVLink 5.0はレイテンシを最小化する設計で、複数枚接続してもレイテンシはほぼ一定です。
まとめ
SXM5は、NVIDIA H100/H200をベースにした次世代AI学習フォームファクタである。900 GB/sのNVLink帯域、700 Wの電力枠、8‑way構成のスケーラビリティを備え、2025年以降のAIワークロードに最適化されている。自作PCでの導入は電源と冷却に注意が必要だが、将来性と性能を考慮すると、最新のAI研究や大規模クラスタ構築に不可欠な選択肢となる。