AMD Instinct MI300X/A 採用（エムアイ300）
AMD Instinct MI300 series(2023年12月-2024年)。MI300X(GPU only・192GB HBM3・5.3TB/s・750W・$15-20k・1530B FP8 LLM対応)・MI300A(APU・24-core Zen 4 + CDNA 3 GPU・128GB HBM3・LLNL El Capitan supercomputer 1.74 ExaFLOPS)・ROCm 6.x(CUDA alternative)・PyTorch/JAX対応・vLLM/SGLang対応・Microsoft Azure ND MI300X・Meta公式採用(Llama 3.1 training)・Oracle/AWS/Cluster scale・後継 MI325X(256GB HBM3e・2024年Q4)・MI355X/350(2025年)・2026年 H200/B200/Rubin競合相手。
概要
AMD Instinct MI300X/Aは2023年12月から2024年にかけて登場したGPU/CPUハイブリッドアーキテクチャで、AI・HPC分野を中心に広く採用されている。MI300XはGPUのみで192 GB HBM3、転送帯域5.3 TB/s、TDP750 W、価格15 k〜20 k USD。MI300Aは24‑core Zen 4 CPU＋CDNA 3 GPUを統合し、128 GB HBM3を搭載。両モデルともROCm 6.xをベースにし、PyTorch/JAX、vLLM、SGLangといったフレームワークに最適化されている。Microsoft AzureのND MI300X、MetaのLlama 3.1トレーニング、Oracle/AWSクラスタなどで実証実装が進んでいる。2025年にはMI325X（256 GB HBM3e）が、2026年にはH200/B200/Rubinといった競合が登場予定で、AI推論・学習市場に大きな影響を与える見込みだ。
主な特徴・仕組み
- GPU専用MI300X
- 192 GB HBM3、5.3 TB/s帯域、750 W TDP、15 k〜20 k USD
- 1530B FP8演算でLLM推論に最適
- CPU+GPUハイブリッドMI300A
- 24‑core Zen 4 CPU、CDNA 3 GPU、128 GB HBM3
- 1.74 ExaFLOPS（LLNL El Capitanで実証）
- ROCm 6.x
- CUDAに代わるオープンソースSDK、Python、C++サポート
- AIフレームワーク統合
- PyTorch, JAX, vLLM, SGLangをネイティブにサポート
- クラウド・エンタープライズ採用
- Microsoft Azure ND MI300X、Oracle Cloud、AWSのクラスタ
- Meta公式採用
- Llama 3.1の大規模トレーニングに使用
- 2025年リリース予定
- MI325X（256 GB HBM3e、2024年Q4発売）
- 2026年競合
- NVIDIA H200/B200、AMD Rubinが同時期に登場予定
- 電力効率
- 750 Wで10 %以上のTDP削減を実現
- 拡張性
- PCIe 5.0レーン32レーン、NVLink 3.0対応
スペック比較表
| モデル | GPU/CPU | メモリ | 帯域 | TDP | 価格帯 | 主用途 |
|---|---|---|---|---|---|---|
| MI300X | GPU専用 | 192 GB HBM3 | 5.3 TB/s | 750 W | 15 k〜20 k USD | LLM推論 |
| MI300A | CPU+GPU | 128 GB HBM3 | 5.3 TB/s | 750 W | 18 k〜23 k USD | HPC・学習 |
| MI325X | GPU専用 | 256 GB HBM3e | 6.5 TB/s | 850 W | 25 k〜30 k USD | 2025年リリース |
| MI355X | GPU専用 | 384 GB HBM3e | 7.8 TB/s | 950 W | 35 k〜40 k USD | 2025年後期 |
| MI350 | GPU専用 | 256 GB HBM3e | 6.5 TB/s | 850 W | 28 k〜33 k USD | 2025年初期 |
具体例・対応製品
- AMD Instinct MI300X – NVIDIA RTX 5090に対抗する高性能AI推論カード。
- AMD Instinct MI300A – Dell EMCのApex Cortex HPCサーバーに組み込まれ、LLNL El Capitanで1.74 ExaFLOPSを達成。
- Microsoft Azure ND MI300X – Azure AI PlatformでLlama 3.1のトレーニングを実行。
- Oracle Cloud Infrastructure – MI300Aを利用した大規模データ分析ワークロード。
- Meta AI Research – MI300XでLlama 3.1を訓練し、推論速度を2倍に向上。
自作PCでの選び方・注意点
- 電源容量：MI300Xは750 W、MI300Aは同じTDPだがCPUも含むため、最低1.5 kWの電源を推奨。
- 冷却設計：高熱設計に対応した空冷/水冷ユニットを選択。
- マザーボード：PCIe 5.0レーン32レーンを備えたサーバー向けマザーボードが必要。
- OSとドライバ：ROCm 6.xをインストールし、最新のドライバを適用。
- ソフトウェア互換性：PyTorch 2.5、JAX 0.4、vLLM 0.2を確認。
- 拡張カード：NVLink 3.0対応のスロットがあるか確認。
- 予算管理：MI300Xは15 k〜20 k USD、MI300Aは18 k〜23 k USD。
- 将来性：2025年にMI325Xが登場予定なので、PCIe 5.0に対応した構成を選ぶとアップグレードが容易。
- サポート体制：AMD公式サポートとクラウドベンダーのエンジニアリングサポートを併用。
関連用語との違い
| 用語 | 主な違い | 代表製品 |
|---|---|---|
| MI300X | GPU専用、192 GB HBM3 | MI300X |
| MI300A | CPU+GPUハイブリッド、24‑core Zen 4 | MI300A |
| NVIDIA H200 | NVIDIA Ampereベース、HBM3 128 GB | H200 |
| AMD Rubin | 2026年リリース予定、HBM4e | Rubin |
| Intel Ponte Vecchio | 2026年リリース予定、Xeアーキテクチャ | Ponte Vecchio |
よくある質問(FAQ)
Q1. MI300XとMI300Aの主な用途の違いは？
A1. MI300XはGPU専用でLLM推論や大規模推論タスクに最適。MI300AはCPU+GPUの統合でHPC・機械学習トレーニングに向いている。
Q2. 2025年に予定されているMI325XはMI300Xと比べてどのように優れている？
A2. MI325Xは256 GB HBM3e、帯域6.5 TB/s、TDP850 WとMI300Xよりメモリ容量と帯域が増加。2024年Q4に発売予定で、MI300Xの後継として高性能を提供。
Q3. AMD Instinct MI300Xを自作PCに搭載する際の主要な注意点は？
A3. 高いTDPと電源要件（1.5 kW以上）に対応するため、電源ユニットと冷却システムを十分に用意。PCIe 5.0レーン32レーンを備えたマザーボードとROCm 6.xドライバが必須。
まとめ
AMD Instinct MI300X/Aは、192 GB HBM3と5.3 TB/sの帯域、750 WのTDPでAI推論とHPCを同時に満たす次世代GPU/CPUハイブリッドソリューションである。MI300XはGPU専用でLLM推論に、MI300AはCPU+GPUでトレーニングに最適。2025年のMI325X、2026年のH200/B200/Rubinとの競合が予測され、AI・HPC市場の競争はさらに激化する。自作PCでの導入には電源・冷却・マザーボードのスペックが鍵となり、ROCm 6.xと主要フレームワークの互換性を確認することが不可欠だ。今後のリリースに注目し、適切なアップグレード戦略を立てることで、最先端の計算性能を長期にわたり享受できる。