ネットワーク
上級
InfiniBand(インフィニバンド)
高性能計算・AI向けインターコネクト。NDR 400Gbps・XDR 800Gbps(2025-)・NVIDIA Quantum-2 QM9700 switch・Mellanox ConnectX-7 NIC・BlueField-3 DPU・Cornelis Networks Omni-Path 400・AWS EFA v2が2026年代表、HPC/AIトレーニングクラスタのGPU間通信で数ns latency実現。
0 回閲覧
0 いいね
2026/4/25 更新
関連タグ
NDR 400G
XDR 800G
Quantum-2
ConnectX-7
概要
InfiniBand(インフィニバンド)は、超高速データ転送を実現するインターコネクト規格で、主に高性能計算(HPC)やAIトレーニングに採用される。
従来のイーサネットに比べて、レイテンシが数ナノ秒単位で抑えられ、帯域幅は400Gbps(NDR)を超える。
2025年にはXDR 800Gbpsが実用化され、2026年にはAWS EFA v2が代表的な実装として登場。
次世代のデータセンターでは、GPU間通信を高速化するために不可欠な技術となっている。
主な特徴・仕組み
- 低レイテンシ:数nsレベルの遅延で、GPU同士の同期がスムーズ。
- 高帯域幅:NDR 400Gbps、XDR 800Gbpsを実現し、データ転送量を大幅に増加。
- RDMA(Remote Direct Memory Access):CPUを介さずにメモリ間で直接データ転送。
- スイッチング機構:Quantum-2 QM9700 switchは、レイヤー2/3で高速ルーティングを実現。
- エネルギー効率:Mellanox ConnectX-7 NICは、1Gbpsあたりの消費電力が低減。
- DPU統合:BlueField-3 DPUは、ネットワーク処理とデータ処理を同一チップで実行。
- オープンソース互換:Omni-Path 400は、InfiniBandと互換性を持ち、導入コストを抑制。
- 拡張性:InfiniBandは、数千ノードにわたるクラスタ構築をサポート。
- セキュリティ:暗号化と認証機能が組み込まれ、データ保護が強化。
- 管理ツール:InfiniBand Management Interface(IBMI)で、ネットワーク状態をリアルタイム監視。
スペック/製品比較表
| 製品名 | 主要スペック | 主要用途 | 発売年 |
|---|---|---|---|
| NVIDIA Quantum-2 QM9700 switch | 800Gbps, 48ポート | HPCクラスタ | 2025年 |
| Mellanox ConnectX-7 NIC | 200Gbps, 4ポート | AIトレーニング | 2024年 |
| BlueField-3 DPU | 200Gbps, 8ポート | データセンターネットワーク | 2025年 |
| Cornelis Networks Omni-Path 400 | 400Gbps, 32ポート | 研究機関向け | 2023年 |
| AWS EFA v2 | 800Gbps, 1ポート | クラウドGPU | 2026年 |
具体例・対応製品
- NVIDIA A100 GPU:InfiniBandを介した高速通信で、トレーニング時間を最大50%短縮。
- AMD Instinct MI250X:Mellanox ConnectX-7 NICと組み合わせて、データ転送レイテンシを10ns以下に抑制。
- Google TPU v4:InfiniBandのRDMA機能を利用し、分散学習の同期コストを低減。
- Microsoft Azure NDv2:AWS EFA v2と同等のレイテンシを実現し、GPUクラスタのスケーラビリティを向上。
- OpenAI GPT‑4:InfiniBandを利用したデータセンターで、トレーニングパイプラインのボトルネックを解消。
自作PCでの選び方・注意点
- CPUとメモリ:InfiniBandはCPUコア数とメモリ帯域幅に依存するため、Xeon Gold 6330(28コア)やDDR4-3200を推奨。
- マザーボード:InfiniBandカードを搭載できるPCIe 4.0 x8スロットが必要。
- 電源:800Gbpsスイッチは最大600Wを消費するため、850W以上の電源ユニットを選択。
- 冷却:高帯域幅カードは発熱が大きく、液体冷却を検討。
- ケーブル:光ファイバーケーブルは、光信号の減衰を抑えるために、1.5m以内で接続。
- OSとドライバ:Linuxカーネル4.19以降、InfiniBandドライバが標準装備。
- 管理ツール:IBMIやOpenSMを導入し、ネットワーク状態を可視化。
- 予算:Quantum-2 QM9700 switchは約¥3,200,000、ConnectX-7 NICは約¥120,000。
関連用語との違い
- Ethernet:レイテンシが数十ns、帯域幅は最大10Gbps。InfiniBandは10倍以上の速度と低遅延を実現。
- InfiniBand HDR:200Gbpsの高速化を目指す規格。XDR 800GbpsはHDRをさらに4倍に拡張。
- RDMA over Converged Ethernet (RoCE):Ethernet上でRDMAを実装。InfiniBandは専用ハードウェアでより安定。
- NVLink:NVIDIA独自のGPU間通信。InfiniBandはCPUとGPU間の広域通信に適応。
よくある質問
Q1. InfiniBandはどのくらいの距離で使用できますか?
A1. 光ファイバーを用いると、数キロメートルまで安定した通信が可能です。
Q2. 既存のイーサネット機器と併用できますか?
A2. RoCEを利用すれば、イーサネット機器と同一ネットワークでInfiniBandを走らせることができます。
Q3. 価格対性能比はどうですか?
A3. 初期投資は高いものの、レイテンシ削減と帯域幅増加により、長期的に運用コストを削減できます。
まとめ
InfiniBandは、HPCやAIトレーニングにおいて、レイテンシと帯域幅