Intel Gaudi 3（インテルガウディスリー）
Intel製AI学習・推論アクセラレータ。HBMe2搭載・BF16 1835 TFLOPS・RoCE対応ネットワークで構成コスト削減を目指すH100対抗モデル。
Intel Gaudi 3とは
Intel Gaudi 3は、Intelが2024年に発表したAIトレーニング・推論アクセラレータ。2019年にIntelが約20億ドルで買収したイスラエルのHabana Labsの設計チームが開発し、GaudiシリーズはNVIDIA GPU対抗のIntelのAI加速器ラインアップの主力製品。
主要スペック
| 項目 | Intel Gaudi 3 | NVIDIA H100 SXM |
|---|---|---|
| プロセスノード | TSMC 5nm | TSMC 4nm |
| BF16 性能 | 1,835 TFLOPS | 1,979 TFLOPS |
| FP8 性能 | 3,670 TFLOPS | 3,958 TFLOPS |
| メモリ | HBMe2 96GB | HBM3 80GB |
| メモリ帯域 | 3.7TB/s | 3.35TB/s |
| TDP | 900W | 700W |
| ネットワーク I/F | 24× 200GbE RoCE | NVLink + InfiniBand |
RoCEベーススケールアウトの差別化
NVIDIA H100はGPU間のスケールアウトにNVLinkとInfiniBandを使用するが、InfiniBandは高性能ながら高コスト専用ファブリックが必要。Gaudi 3は標準的なRoCE（RDMA over Converged Ethernet）を採用し、既存イーサネットインフラでスケールアウト可能。
コスト削減効果: Intel試算では、Gaudi 3×8ノードのトレーニングクラスタはH100×8ノード比で総所有コスト（TCO）が最大40%低下するとされる（スイッチ・ケーブル等ネットワーク費用含む）。
Intel Gaudi 3の採用とエコシステム
2024〜2025年の採用状況:
- HPE: Cray XD HP1000搭載Gaudi 3ブレードを発売
- Dell: PowerEdge XE9680でGaudi 3搭載オプションを提供
- Supermicro: 8-way Gaudi 3サーバーを提供
- Intel Tiber AI Cloud: Gaudi 3アクセラレータを仮想クラウドサービスとして提供
ソフトウェアはIntel Gaudi Software Suite（SynapseAI）でPyTorch・DeepSpeedとの統合をサポート。HuggingFaceモデルの大半が対応済み。
H100との実効性能比較
理論性能はほぼ拮抗しているが、実際のワークロードではCUDA+cuDNNの最適化が進んでいるH100が実効性能で上回るケースが多い。IntelはAI Software Benchmarks（Llama-2 70B学習）でのTCO比較を重点的にアピールしており、純粋な計算速度より「同等性能をより安く」のポジショニングを採る。
今後の展開
Intelは2025年後半にGaudi 3後継（Falcon Shores）を予告。CPUとGPU/AI加速器を統合した「XPU」設計で、Intelの長期的なAI加速器ロードマップの要となる予定。ただしHabana Labs設計チームの人材流出や市場シェア拡大の遅れが課題とされている。