ProxmoxでGPUパススルー — ローカルLLM仮想マシンをホームサーバーで動かす 2026

Proxmox環境において特に重要なのは、PCIeスロットの配分です。一部のコンシューマー向けマザーボードでは、特定のPCIeスロットを共有している場合があり、GPUをパススルーしようとすると隣接するネットワークカードやNVMe SSDまで一緒にVMへ見えてしまう（またはホストから見えなくなる）現象が発生します。これを防ぐために、pcie_acs_override=1といったカーネルパラメータの適用が必要になるケースがあります。

また、CPU側の選択も無視できません。Proxmox上でLLMを動かす際、CPUは主にシステムの管理や、VRAMに乗り切らないモデルのオフロード処理を担当します。AMD Ryzen 9 7950XやIntel Core i9-14900Kといった多コア・高クロックなプロセッサを選択することで、システム全体の安定性とバックグラウンドタスクの処理能力を確保できます。さらに、メモリ（RAM）は最低でも64GB以上、マルチGPU構成なら128GB以上のDDR5メモリを搭載することで、ProxmoxホストとVM間のリソース競合を防ぎます。

結論として、2026年現在の技術スタックでは、**「1台の強力なGPU（RTX 4090等）を特定のVMにパススルーし、そこからAPIサーバー（OpenAI互換など）を立てる」**構成が、ホームサーバーにおけるローカルLLM運用として最も安定した選択肢となります。これにより、Proxmoxの管理利便性を保ちつつ、推論エンジンに特化した環境を構築することが可能です。

FAQ

Q1: ProxmoxでGPUパススルーを行った後、WebUI（例: Text-Generation-WebUI）からアクセスできないのはなぜですか？ A1: 多くの場合、VM内のネットワーク設定がブリッジモードになっていないか、あるいはホスト側のファイアウォール（iptables/nftables）がポートをブロックしていることが原因です。また、モデルのロードに時間がかかり、サーバーが応答していない可能性も高いため、まずはVM内で nvidia-smi コマンドが正常に動作し、GPUメモリが消費されているかを確認してください。

Q2: 複数のGPUがある場合、Proxmix上でどのように使い分けるのが効率的ですか？ A2: 推奨は「役割の分離」です。例えば、1枚をビデオエンコードやメディアサーバー用（Plex等）に固定し、もう1枚をLLM専用のVMにパススルーします。これにより、GPUの競合を防ぎながら、それぞれの用途に最適なドライバ設定とリソース配分を行うことができます。

Q3: パススルー後に「Error 43」が出た場合の即効性のある解決策は？ A3: まずはホスト（Proxmox）側で vfio-pci が正しく適用されているか確認してください。その後、VM内のゲストOSでNVIDIA公式の最新ドライバをインストールし、必要に応じて nvidia-kms の設定を確認します。それでも解決しない場合は、カーネルパラメータに pci=realloc を追加することで、PCIeバス上のリソース再割り当てが改善されることがあります。

ローカルLLM運用におけるGPU構成と環境の徹底比較

Proxmox上でローカルLLMを動かす際、最も重要な意思決定は「どのGPUを採用し、どのような仮想化レイヤーで実行するか」です。2026年現在の技術動向を踏まえ、ハードウェア選定からソフトウェアスタックの選択まで、実用的な判断基準を5つの比較表で詳述します。

まず検討すべきは、LLM推論における計算コアとVRAM容量のバランスです。特にNVIDIAのRTXシリーズはCUDAコアの最適化が進んでおり、多くのオープンソースLLM（Llama 3, Mistral系）においてデファクトスタンダードとなっています。

1. 主要GPUモデルのスペック・価格比較（2026年最新動向）

ローカルLLMを動かす上で最も重要なのはVRAM容量です。70Bクラスのモデルを量子化（4-bit等）して動作させるには、最低でも48GB以上のVRAM、あるいは複数枚のGPUを統合する構成が求められます。

2. 推論モデルサイズと必要VRAMの相関表

LLMを動かす際の「快適な推論」を実現するための、パラメータ数と必要なメモリ容量の目安です。Proxmoxでパススルーを行う際、この容量を確保できるGPUを選択する必要があります。

3. GPUパススルー vs Dockerコンテナの運用比較

Proxmox環境において、LLMを動かすための「実行レイヤー」の選択肢です。結論として、完全なハードウェア制御と独立性を求めるならVM+Passthrough、リソース共有と柔軟性を求めるならDocker（Hostモード）となります。

4. GPUベンダー別・仮想化対応マトリクス

Proxmox環境でGPUをパススルーする際の、ハードウェア固有の制約と互換性です。NVIDIA以外の選択肢も検討されることがありますが、LLMエコシステムの充実度からNVIDIAが推奨されます。

5. 実装構成における「安定性」と「拡張性」のトレードオフ

ホームサーバーを構築する際に直面する、ハードウェア構成とソフトウェア設計のバランスに関する比較です。

これらの比較から明らかなように、「70B以上のモデルを快適に動かしたいならRTX 3090/4090の2枚構成（またはA6000）」、**「まずは手軽に高品質な回答を得たいならRTX 4090単体」**という選択が、Proxmox環境におけるLLM構築の黄金律となります。特にマルチGPU構成を選択する場合は、ProxmoxのIOMMUグループを正確に分離し、各パススルー用VMに対して個別のPCIeデバイスとして認識させる手順が不可欠です。

よくある質問

Q1. ProxmoxでローカルLLMを動かす際、GPUのコストパフォーマンスが良いモデルは？

推論性能とVRAM容量のバランスから、NVIDIA GeForce RTX 4090（24GB）やRTX 3090が依然として主流です。特にマルチGPU構成を検討する場合、メモリ帯域を確保できるRTX 4060 Ti 16GBモデルも安価なエントリー構成として選ばれています。予算に合わせてVRAM容量を最優先に選択することが、LLMの量子化パラメータ（4-bit/8-bit）を維持するための鍵となります。

Q2. GPUパススルーを行う際、中古のRTX 30シリーズは問題ない？

中古のRTX 3090や3090 Tiは、高いVRAM容量からローカルLLM運用において非常に人気がありますが、VFIOでの認識に注意が必要です。特定の個体で「Error 43」が発生する場合でも、vendor-resetカーネルモジュールの導入により安定動作が可能です。中古品を購入する際は、初期不良やハードウェア的な故障だけでなく、PCIeスロットのレーン数（x16推奨）を確保できるマザーボードとの組み合わせを確認してください。

Q3. Proxmox上のVMで動かす場合と、Docker上で直接動かす場合の違いは？

最大の差異は「リソースの隔離」と「管理の柔軟性」にあります。Docker環境ではホストOSとGPUを共有するためオーバーヘッドが少ない一方、Proxmox VM（KVM）上であれば完全に独立したOS環境でLLMを実行でき、バックアップやスナップショットの活用が容易です。運用負荷を下げるならDockerですが、実験的な構成や複数の異なるモデル環境を分離したい場合はVM経由のパススルーが推奨されます。

Q4. 複数のGPUを1台のProxmoxサーバーで別々のVMに割り振れる？

IOMMUグループが適切に分離されていれば、複数枚のGPUを個別の仮想マシン（VM）へ割り当てることが可能です。例えば、RTX 4090を2枚搭載し、1枚目はLLM専用のU[bun](/glossary/bun-runtime)tu VM、もうひとつはメディアサーバーや画像生成用のVMといった使い分けが可能です。ただし、マザーボードやCPUのPCIeレーン数に制約があるため、リダイレクタ（PCIeスイッチ）の使用を検討する必要がある場合もあります。

Q5. AMDのGPU（RX 7000シリーズなど）もProxmoxでパススルーできる？

AMD製GPUもProxmox上でパススルー可能ですが、NVIDIAと比較するとドライバ周りの挙動やROCm環境の構築に特有の手順が必要です。特に[Radeon RX 7900 XT](/glossary/radeon-rx-7900-xt)X（24GB）などは高いVRAMを誇り、LLM用途で注目されていますが、仮想環境での安定性を重視するなら現時点ではNVIDIA製GPUの方がトラブルシューティングの情報量が圧倒的に多いため、推奨されることが多いです。

Q6. GPUパススルーに失敗した際、最も多い原因は何？

最も多い原因は「IOMMUグループの混在」と「ホストOSによるデバイスの掴み（Grab）」です。Proxmoxホスト自体がGPUを初期化してしまい、VMに渡せない状態になっていることが多いため、vfio-pci.idsへの登録や、GRUBでのpcie_acs_override=1の適用が必要です。また、最新のNVIDIAドライバ（550系以上など）における特定の挙動変更も原因となるため、カーネルとドライバの整合性を確認してください。

Q7. 安定動作のために必要な最小限のPCIeレーン数は？

ローカルLLMを快適に動作させるには、メインのGPUに対してx16またはx8以上の物理的な帯域確保が推奨されます。Proxmox環境ではCPU直結のPCIeスロットを使用することが望ましく、チップセット経由（DMI）のレーンは帯域不足や不安定化の原因となるため避けるべきです。特にマルチGPU構成を検討する場合、マザーボードの仕様書を確認し、合計で16レーン以上を確保できる構成を組むことが重要です。

Q8. 仮想マシン内でLLMを実行する際、CPUのコア数はどれくらい必要？

LLMの推論自体はGPU（CUDAコア）が主導するため、CPUコア数は極端に多くなくても動作しますが、トークンの前処理やデータロードのために最低でも4〜8コアを割り当てるのが一般的です。Proxmoxでリソースを最適化する場合、ホスト側で余剰な計算資源を確保しつつ、VMには必要な範囲（例：EPYCやThreadripper環境なら16コア以上）を割り振ることで、マルチタスク環境でも安定したレスポンスを維持できます。

Q9. 2026年以降を見据えて、ローカルLLMのハードウェア選定で重視すべき点は？

今後数年は「VRAM容量」と「メモリ帯域（HBM3/[[GDDR](/glossary/gddr6)6](/glossary/ddr6)X）」が最重要項目となります。モデルの巨大化に伴い、Llama-3系やそれ以降のモデルを動かすには24GB以上のVRAMが必須条件となりつつあります。そのため、将来を見据えるなら単一の高性能カードよりも、パススルーで安定動作する複数枚のGPU構成（例：RTX 3090×2など）を構築できるマザーボードと電源ユニット（1000W以上推奨）を選定することが賢明な投資となります。

Q10. GPUパススルーの設定変更後、Proxmoxを再起動せずに反映させる方法は？

基本的にはカーネルパラメータの変更やmodprobeの設定変更を行うため、ホストの再起動が必要になりますが、一部のモジュール再読み込みであれば可能です。しかし、GPUデバイスをホストから切り離しVMへアタッチするプロセスが含まれるため、安定性を担保するにはProxmoxホストの再起動（reboot）を実行するのが最も確実な手順です。設定変更後は必ず lspci -nnk コマンドで、対象のGPUが正しいvfio-pciドライバで動作しているか確認してください。

まとめ

Proxmox VE環境でローカルLLMを運用するためのGPUパススルーは、適切なIOMMUグループの分離とNVIDIAドライバの最適化を行うことで、実用的なパフォーマンスを引き出すことが可能です。2026年現在の技術スタックにおいて、円滑な運用を実現するための要点は以下の通りです。

• ハードウェアの選定: 物理的な[PCIeスロットの分離とIOMMUグループの独立性が必須であり、特にマルチGPU構成では適切なマザーボード設計が重要となります。
• カーネルパラメータの設定: /etc/default/grubへの intel_iommu=on や amd_iommu=on の記述、および vfio-pci へのデバイス割り当てを正確に行う必要があります。
• Error 43の回避: NVIDIAドライバによる制限を回避するため、vendor-resetカーネルモジュールの導入や適切なROMファイルの適用が不可欠です。
• リソースの最適化: LLM実行時にはVRAM容量（例：RTX 4090の24GBなど）が最優先されるため、VMへのメモリ割り当てを「Hugepages」等で最適化することが推奨されます。
• 運用形態の選択: Dockerによるコンテナ運用はリソース共有に優れますが、完全なハードウェア隔離と安定性を求めるならProxmox上のVM（KVM）での構築が有利です。
• 最新ドライバの維持: 2026年時点の最新[CUDA ToolkitおよびNVIDIAドライバを常に適用することで、最新の量子化モデルや推論エンジンとの互対応を確保します。

まずは現在のマザーボードとCPUの仕様を確認し、lspci -nnコマンドを用いてGPUがどのIOMMUグループに属しているかを特定することから始めてください。環境が整った段階で、Proxmoxのコンソールからパススルーの設定手順に従い、独自のローカルLLM環境を構築しましょう。

TrueNAS ScaleやOpenMediaVaultをProxmox上の仮想マシン（VM）で運用する場合、単に仮想ディスク（.qcow2）を割り当てるだけでは不十分です。