AMD MI300X / MI325X (Instinct AI・2023-2024)（エーエムディーエムアイ300エックス）
AMDのInstinctシリーズにおけるAI学習・推論特化型アクセラレーta。MI300Xから続くMI325Xは、圧倒的なHBM容量を武器に大規模言語モデル（LLM）のメモリ帯域不足を解消する次世代GPU製品群である。
概要
AMDのInstinctシリーズは、大規模言語モデル（LLM）の学習および推論に特化したデータセンター向けアクセラレータである。MI300Xから続くMI325Xへの進化は、単なる演算性能の向上ではなく、「メモリ容量」と「帯域幅」の極大化に主眼が置かれている。チップレット技術を用いた2.5Dパッケージングを採用し、HBM3eの導入によってNVIDIA H200を上回るVRAM容量を実現。これにより、巨大なパラメータを持つモデルの単一GPU内での保持が可能となり、推論コストの低減とスループット向上に寄与する。次世代のMI350シリーズではCDNA 4アーキテクチャへの移行が予定されており、NVIDIA Blackwell（B200）との直接的な競合が予想される。
スペック比較表
| 項目 | Instinct MI300X | Instinct MI325X |
|---|---|---|
| アーキテクチャ | CDNA 3 (Chiplet) | CDNA 3 (Chiplet) |
| メモリ容量 | 192 GB HBM3 | 256 GB HBM3e |
| メモリ帯域幅 | 5.3 TB/s | 6.0 TB/s |
| BF16 演算性能 | 1.3 PFLOPS | 1.3 PFLOPS |
| FP8 演算性能 | (未詳) | 2.6 PFLOPS |
| 主な用途 | LLM学習・推論 | 超大規模LLM推論・学習 |
NVIDIA H200との比較
AMDの戦略は、純粋な演算密度（TFLOPS）よりも、モデルをGPUメモリ内にどれだけ収容できるかという「メモリ容量」に重点を置いている。
| 特徴 | AMD MI325X | NVIDIA H200 |
|---|---|---|
| メモリ容量 | 256 GB (優位) | 141 GB |
| 戦略的メリット | 巨大なKVキャッシュの保持が可能、GPU枚数の削減 | 高いソフトウェアエコシステム、高い演算密度 |
| ターゲット層 | Meta, Microsoft, Oracle等 | 全てのAI開発者・研究者 |
関連用語との違い
CDNA vs RDNA
AMDのGPUアーキテクチャは、用途によって明確に分離されている。CDNA（Compute DNA）はInstinctシリーズに採用される計算特化型で、行列演算ユニットを極限まで強化している。一方、RDNA（Radeon DNA）はRadeonシリーズに採用されるグラフィックス・ゲーミング向けのアーキテクチャであり、レイトレーシングやテクスチャ処理に最適化されている。
ROCm vs CUDA
NVIDIAのCUDAはデファクトスタンダードとして強力なエコシステムを持つが、AMDのROCm（Radeon Open Compute）はオープンソースを掲げ、PyTorchやTritonといった主要フレームワークへの対応を急速に進めている。特にROCm 6.3以降では、CUDAからのコード移行を容易にする互換レイヤーの強化が進み、「CUDA Lock-in」の打破が期待されている。
FAQ
Q1: なぜAI推論においてメモリ容量がそれほど重要なのか？
LLM（大規模言語モデル）の推論では、モデルの重み（Weights）だけでなく、入力テキストに応じて増大する「KVキャッシュ」をGPUメモリ内に保持する必要がある。メモリ容量が大きいほど、一度に処理できるコンテキスト長（文脈）を拡大でき、かつ複数のリクエストを同時に捌くスループットを高めることができるためである。
Q2: MI325Xの採用が進む主な理由は何か？
MetaやMicrosoftといったハイパースケーラーにとって、NVIDIA製GPUへの依存度（ベンダーロックイン）とコストは極めて大きな課題である。MI325Xは、HBM容量において圧倒的な優位性を持ちつつ、既存のAIワークロードを比較的容易に移植できるROCm環境を提供しているため、代替手段として非常に強力な選択肢となっている。
Q3: 次世代のMI350シリーズは何が変わるのか？
MI350シリーズでは、アーキテクチャがCDNA 4へと刷新される予定である。これにより、NVIDIAのBlackwell（B200）に対抗しうる演算性能と、さらなる電力効率の向上が見込まれている。AMDは単なるスペック競争ではなく、チップレット技術によるコストパフォーマンスとメモリ帯域の両立で、AI ASIC市場における地位を確立しようとしている。