【2026年】ROCm AMD GPU AI環境構築ガイド｜Radeon RX 7900 XTX / 9070 XT 実践

ROCm 版 PyTorch の導入と環境変数設定の実践手順

PyTorch は通常の pip install torch ではなく、ROCm 対応ビルドを専用インデックス URL から入れる点が唯一にして最大のポイントです。 ここを間違えると CUDA 依存バイナリが入り、AMD GPU を認識できません。ROCm 対応版のインストール方法・対応バージョンは公式が最新を案内しています（公式: PyTorch）。インストールコマンドの ROCm バージョン指定（rocmX.Y）は使用する ROCm に合わせる必要があるため、固定値を鵜呑みにせず公式の生成コマンドを使ってください。

インストール手順は以下の通りです。まず、Python の仮想環境（venv または conda）を作成し、それをアクティブ化した上で専用インデックス URL を指定して PyTorch をインストールします。この際、--index-url（または --extra-index-url）で ROCm 向けの配布先を参照させることが重要です。これにより、CUDA 依存のバイナリではなく、HIP ベースのバイナリがダウンロードされます。

# 仮想環境の作成とアクティブ化
python3 -m venv rocm_env
source rocm_env/bin/activate

# PyTorch ROCm 版のインストール（rocmX.Y のバージョンは環境に合わせて調整）
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/rocm6.2

インストールが完了したら、Python スクリプト内で PyTorch が正しく GPU を認識しているか確認します。ROCm 版 PyTorch では互換レイヤーの都合上、torch.cuda.is_available() が True を返す場合があり（内部で HIP にマッピングされるため）、torch.version.hip が None でないことを併せて確認すると確実です。環境変数 HIP_VISIBLE_DEVICES を設定することで、特定の GPU ID にアクセスを制限することも可能です。例えば、2 枚の GPU を使用する場合は export HIP_VISIBLE_DEVICES=0,1 と指定します。

さらに、PyTorch のパフォーマンスを最大化するためには、メモリ管理の設定を調整します。デフォルトでは PyTorch はメモリの解放に慎重ですが、AI 推論中は頻繁なメモリ確保・解放が発生し、GPU メモリ断片化によりパフォーマンス低下の原因となります。以下の設定をスクリプトの冒頭で適用することで、メモリアクセス効率を改善できます。

import torch
torch.cuda.empty_cache()  # ROCm でも HIP バックエンド経由で同様に機能する
torch.backends.cuda.matmul.allow_tf32 = True
torch.backends.cudnn.allow_tf32 = True

ROCm 環境では、量子化ライブラリの対応状況が CUDA より遅れる場合があるため、bitsandbytes の ROCm 対応版を使うなど、AMD GPU 向けに調整されたパッケージを選ぶ必要があります。LLM 推論で VRAM 不足に陥った場合、量子化を組み込むことで、モデルサイズを圧縮しつつ精度をできるだけ維持することが可能です。

vLLM と llama.cpp の HIP バックエンド活用による推論最適化

スループットを上げたいなら vLLM、デプロイの手軽さなら llama.cpp という使い分けが基本です。どちらも ROCm/HIP バックエンドで AMD GPU 上の高速推論に対応します。 単なる PyTorch スクリプトの実行では、複数リクエストを同時に捌くサーバー用途でスループットが不足するため、専用推論エンジンが必要になります。これらのエンジンの全体像はllama.cpp / Ollama / MLX 対応 PC ガイドでも整理しています。

vLLM は、PagedAttention 技術を採用し、KV Cache のメモリ管理効率を大きく改善した推論フレームワークです。ROCm 対応のインストール方法は公式ドキュメントに沿うのが確実です（出典: vLLM ドキュメント）。vLLM は GPU メモリの断片化を防ぐ仕組みを持っており、RX 7900 XTX のような VRAM が限られた環境でも、長いコンテキストを扱いやすくなります。

また、軽量な推論エンジンである llama.cpp も AMD GPU 上で動作するよう、HIP バックエンドが実装されています。llama.cpp は C/C++ で書かれており、Python 依存がないためデプロイが容易です。-ngl（--n-gpu-layers）パラメータを使用して、モデルの層を GPU に割り当てる量（GPU Offload）を指定できます。ROCm 環境では HIP_VISIBLE_DEVICES を設定し、どの GPU に負荷を分散するかを制御します。AMD 新鋭 GPU での実測傾向はRX9070XT ローカル LLM・画像生成 実力ベンチ 2026も参考になります。

以下の表は、異なる推論エンジンにおける ROCm 上での特性比較です。

vLLM を使用する場合、--gpu-memory-utilization パラメータで GPU メモリの利用率を指定できます。例えば 0.95 に設定することで、システム動作用のメモリを残しつつ、推論に利用可能な VRAM の 95% をモデルに割り当てます。これにより、RX 7900 XTX の 24GB でより大きな量子化モデルを動作させやすくなります。llama.cpp の場合は --n-gpu-layers パラメータで GPU にロードする層数を指定し、残りを CPU メモリに落とすハイブリッド構成もサポートしています。

モデル推論ベンチマークの考え方：量子化レベルと測定指標

ROCm 環境の性能評価では、生成速度（Tokens/Sec）と推論遅延（Latency, ms/token）を、量子化レベル（FP16 / INT8 / INT4）ごとに測定するのが基本です。 モデルとドライバの組み合わせで結果が大きく変わるため、固定値の暗記より「自分の環境で測る」姿勢が重要になります。テスト環境の例としては、Ubuntu 24.04 LTS + ROCm 7.0 + 対応 PyTorch の構成が一般的です。

70B クラスのモデルは FP16 では 24GB GPU の VRAM に収まらないため、INT4 量子化版を使うのが現実的です。逆に 8B〜32B クラスのモデルは VRAM 要件が低く、INT8 でも動作しやすいため、精度を保ちつつ高速な応答が得られます。AMD と NVIDIA を比べる際は、テキスト生成速度だけでなく、コード生成や数学推論など特定タスクでの傾向も併せて確認するのが公平です（一部の最適化実装は依然 NVIDIA 側が先行する場合があります）。

ベンチマークを取る際に最低限そろえたい比較軸を、以下に整理します。具体的な Tokens/s の数値は GPU・モデル・量子化・ドライバ世代で変動するため、本記事では数値の断定は避け、測定の枠組みを示します。GPU・モデル別の実測値は更新が速い領域なので、VRAM 容量別 ローカル LLM 動作ガイド 2026などの実測系記事と併読してください。

このように、推論速度だけでなくモデルの精度保持率も同時に確認し、量子化による精度劣化が許容範囲内であることを保証する検証を並行して行うべきです。VRAM に余裕があるほど将来のモデル更新に耐えやすいため、容量優先で選ぶ判断は引き続き有効です。

トラブルシューティングと WSL2 対応状況の解説

よくあるエラーの大半は「ドライバ／ライブラリのバージョン不一致」か「カーネルモジュールのロード失敗」が原因です。まず rocm-smi で GPU 状態を、/dev/kfd と /dev/dri の存在を確認するのが切り分けの第一歩です。 ここを押さえるだけで、HIP runtime error の多くは原因の見当がつきます。

ドライバの再インストールが必要なケースでは、一度すべての AMD パッケージをアンインストールし、リポジトリ情報をクリアしてから再インストールを行います。具体的には sudo apt purge 'rocm*' と実行後、sudo apt autoremove で依存関係も削除します。その後、公式手順から再度パッケージを取得することで、クリーンな状態に戻せます。rocminfo が反応しない場合は、DKMS モジュールが未コンパイルの可能性が高いため、linux-headers-generic をインストール後に再起動して再試行してください。

もう一つの重要なトピックは Windows WSL2 の対応状況です。本記事執筆時点では、WSL2 での ROCm サポートは実験的な段階という位置づけです。ネイティブ Linux に比べるとドライバのオーバーヘッドやメモリ割り当ての制限により、性能が安定しない場合が多く、GPU への直接アクセスが保証されないため、WSL2 を本番環境として使うことは推奨されません。開発用テストであれば WSL2 も選択肢ですが、最終的なベンチマークや実運用では Ubuntu ネイティブを構築することを強く提案します。

NVIDIA CUDA との比較分析：コストパフォーマンスと開発体験

CUDA との一番の違いは「エコシステムの成熟度（CUDA 有利）」と「VRAM あたりの価格（AMD 有利）」のトレードオフです。最新ライブラリ対応や TensorRT 相当を最優先するなら NVIDIA、コスパとオープンソース志向なら AMD という判断軸になります。 CUDA は長年 AI エコシステムの事実上の標準であり、ほぼすべてのライブラリが最適化されています。一方その代償として、NVIDIA GPU は高価格になりがちです。NVIDIA 側で同等構成を組む場合の比較はvLLM×RTX 4090/5090 マルチ GPU 推論サーバー構築も参考になります。

コストパフォーマンスの観点では、同等の VRAM 容量を持つ NVIDIA GPU に比べて、コンシューマー Radeon RX が安価に入手できる傾向があります。また電力効率も RDNA 世代のアーキテクチャ改善により向上しており、長期稼働時のランニングコスト低減につながります。ただし、コミュニティの規模やサポート体制ではまだ CUDA が優位であり、特定の最新ライブラリが ROCm に未対応の場合があります。

開発体験においては、PyTorch や TensorFlow のインストールコマンドに差異があるものの、コードレベルでの互換性は高いです。CUDA コードを HIP コードへ変換するツール（hipify）が存在し、既存プロジェクトの移植も比較的容易です。ただし、NVIDIA 独自の TensorRT に完全対応する AMD 版は存在しないため、最適化されたデプロイには工夫が必要です。ROCm の hipBLAS や hipFFT を使用することで同等の機能をカバーできますが、設定の難易度はやや高くなります。

よくある質問（FAQ）

Q1. ROCm でどの AMD GPU が AI に使えますか？ A1. ROCm 7.0 ではコンシューマー向けの [Radeon RX 7900 XT](/glossary/radeon-rx-7900-xt)X（24GB）や RX 9070 XT（16/24GB）が中心で、データセンター向けは Instinct MI300X などが対応します。古い世代や一部 APU は対象外になりやすいため、購入前に必ずAMD ROCm 公式で最新の対応リストを確認してください。

Q2. ROCm は Windows でも動作しますか？ A2. Windows 本体への直接インストールは非対応で、WSL2 経由は実験的サポートにとどまります。安定性と性能を考えると、Ubuntu ネイティブ環境での利用を強く推奨します。

Q3. AMD GPU で AI を動かす最短手順は？ A3. 「Ubuntu 24.04 LTS を用意 → ROCm 7.0 ドライバを公式リポジトリから導入 → ROCm 版 PyTorch を専用インデックスから入れる」の 3 ステップです。各ステップ後に rocminfo と torch.version.hip で認識を確認すると失敗を切り分けやすくなります。

Q4. RX 7900 XTX の 24GB は AI 推論に十分ですか？ A4. 用途次第ですが十分実用的です。INT4 量子化版の 70B モデルも動作する一方、VRAM 余裕度を考えると 30B クラスまでの利用が快適なラインです。VRAM 容量で迷う場合はAI ワークロード別 GPU 選びガイドを参照してください。

Q5. PyTorch のインストールでエラーが出ます。どうすれば？ A5. CUDA 版が混入している可能性が高いです。pip uninstall torch torchvision torchaudio で既存パッケージを削除し、PyTorch 公式が案内する ROCm 対応インデックス URL から再インストールしてください。

Q6. vLLM はなぜ ROCm 環境で必要ですか？ A6. vLLM は [PagedAttention](/glossary/attention) 技術により KV Cache の断片化を防ぎ、バッチ処理時のスループットを向上させます。大量のリクエストを捌く API サーバーでは、使わない場合に比べて明確な性能差が出ます。

Q7. llama.cpp の HIP バックエンドを有効にする設定は？ A7. コマンドライン引数 -ngl（--n-gpu-layers）で GPU 層数を指定すれば有効化されます。あわせて -t で CPU スレッド数を適切に調整し、HIP ランタイムのオーバーヘッドを抑えます。

Q8. rocminfo が反応しない／GPU を認識しません。 A8. DKMS モジュールがコンパイルされていない可能性が高いです。linux-headers-generic をインストール後にシステムを再起動し、rocm-smi で状態を確認してください。改善しなければドライバの再インストールが有効です。

Q9. NVIDIA RTX 4090 とどちらを買うべきですか？ A9. CUDA エコシステムや TensorRT を重視するなら NVIDIA、VRAM あたりのコストとオープンソース志向を重視するなら AMD RX シリーズが向きます。判断軸の詳細は本記事の「NVIDIA CUDA との比較分析」を参照してください。

Q10. ROCm のバージョンや対応モデルが記事と違う場合は？ A10. ROCm は更新が速いため、対応 GPU・推奨ドライバ・PyTorch の対応バージョンは導入時点のROCm 公式ドキュメントを正として進めてください。本記事は手順の骨子と判断軸を示すものです。

まとめ

本記事では、ROCm 7.0 を用いた AMD GPU の AI 環境構築について、対応 GPU の選定から実コマンドまでを解説しました。要点を整理すると以下の通りです。

• 対応 GPU と選定: ローカル AI 用途では RX 7900 XTX（24GB）／ RX 9070 XT が中心。VRAM が推論のボトルネック解決の鍵であり、容量優先で選ぶのが合理的である。
• OS 環境: Linux ネイティブ（U[bun](/glossary/bun-runtime)tu 24.04 LTS）が前提。Windows 直接は非対応、WSL2 は開発テスト止まりとし、カーネル更新と SWAP 設定にも配慮する。
• ドライバ導入: NVIDIA ドライバを完全削除した上で、公式リポジトリから ROCm と HIP SDK を導入し、rocminfo で認識を確認する順序を守る。
• フレームワーク導入: PyTorch は ROCm 専用インデックスからのみ導入可能。[vLLM](/glossary/llm)（スループット）と llama.cpp（手軽さ）を用途で使い分ける。
• 検証: 速度・遅延・VRAM・精度保持率の 4 軸で測り、量子化による劣化が許容範囲かを確認する。最新の実測値は公式情報や実測系記事と併読する。

ROCm は更新が速い領域のため、最終的な対応可否やバージョンは導入前に公式情報で必ず確認したうえで、本ガイドを手順の骨子として活用してください（出典: AMD ROCm 公式 ／ ROCm Linux インストールガイド）。