ProxmoxでGPUパススルー — ローカルLLM仮想マシンをホームサーバーで動かす 2026

Proxmox VE環境でGPUパススルーを実現し、ローカルLLMを仮想マシン（VM）上で動かすための核心は、IOMMUグループの適切な分離とNVIDIA独自のドライバ制約（Error 43）の回避にあります。2026年現在、RTX 4090やRTX 50シリーズといった最新GPUをProxmox経由でVMへ割り当てる際、ハードウェアレベルでの隔離さえ確保できれば、ホストOSを汚さずに安定した推論環境を構築することが可能です。

多くのユーザーは「仮想マシン上で動かすとパフォーマンスが著しく低下するのではないか」「NVIDIAのドライバが検知されない」という課題に直面します。本記事では、これらの懸念を払拭するため、/etc/default/grubによるカーネルパラメータの設定から、vfio-pciモジュールの適用、さらには最新の「vendor-reset」を用いたGPUの再初期化問題の解決策までを網羅的に解説します。

この記事を読み終える頃には、Proxmox環境においてNVIDIA GPUを完全なパススルー状態にし、Llama 3やMistralといった大規模言語モデル（LLM）を独自の推論エンジンで安定稼働させるための具体的な構築手順をマスターできるはずです。単なる設定手順の紹介に留まらず、Dockerコンテナ運用との比較や、実用的なリソース配分の最適化など、ホームサーバー運用における実践的なノウハウを提供します。

ProxmoxにおけるGPUパススルーの基礎概念とIOMMUの仕組み

Proxmox VEでNVIDIA GPUを仮想マシン（VM）へパススルーするための必須条件は、CPUおよびマザーボードが「IOMMUグループ」を正しく分離できているか、そしてホストOS（Proxmox本体）がGPUを掴まないように設定することです。この構成を正しく構築できれば、VM内から直接GPUのリソースを引き出し、ローカルLLMの推論エンジンであるllama.cppやvLLMをネイティブに近い速度で動作させることが可能です。

GPUパススルーを実現するための核心技術は「PCI Passthrough」であり、Intel VT-dまたはAMD-Vi（SVM）といったハードウェア仮想化支援機能を利用します。Proxmox（Debianベース）において、特定のPCIデバイス（例：NVIDIA RTX 4090）をVMに割り当てる際、ホストOSのカーネルがそのデバイスを初期化しないよう「vfio-pci」ドライバへバインドする必要があります。このプロセスを正確に行うことで、ハイパーバイザを介したオーバーヘッドを最小限に抑え、FP16やINT8量子化モデルの高速な演算を実現します。

GPUパススルーを検討する際に重要なのは、ハードウェア構成による「IOMMUグループ」の分離です。以下の表は、Proxmox環境でローカルLLM運用に適した主要なグラフィックスカードと、そのパススルーにおける特性をまとめたものです。

Proxmox環境において特に重要なのは、PCIeスロットの配分です。一部のコンシューマー向けマザーボードでは、特定のPCIeスロットを共有している場合があり、GPUをパススルーしようとすると隣接するネットワークカードやNVMe SSDまで一緒にVMへ見えてしまう（またはホストから見えなくなる）現象が発生します。これを防ぐために、pcie_acs_override=1といったカーネルパラメータの適用が必要になるケースがあります。

ローカルLLM運用におけるハードウェア選定と最適化の判断軸

ローカルLLMをProxmox上で動かす際の機材選定は、単なるGPUの演算性能だけでなく、「VRAM容量」と「PCIeレーン数の確保」が最優先の判断軸となります。LLMの推論速度（tokens per second）は、モデルの重みがビデオメモリに完全に収まっているかどうかに直結するため、可能な限り大容量のVRAMを搭載したカードを選択することが推奨されます。

具体的には、70Bクラスのモデルを動かす場合は24GB以上のVRAMが必須であり、RTX 3090やRTX 4090が定番となります。一方で、複数のLLMインスタンスを同時に立ち上げる、あるいはStable Diffusionなどの画像生成AIと共存させる場合は、マルチGPU構成（例：RTX 4060 Ti 16GB ×2枚）も選択肢に入ります。この際、Proxmoxで個別のGPUを別々のVMに割り当てるか、PCIeパススルーで複数のGPUを一つのVMにまとめるかの設計判断が必要です。

また、CPU側の選択も無視できません。Proxmox上でLLMを動かす際、CPUは主にシステムの管理や、VRAMに乗り切らないモデルのオフロード処理を担当します。AMD Ryzen 9 7950XやIntel Core i9-14900Kといった多コア・高クロックなプロセッサを選択することで、システム全体の安定性とバックグラウンドタスクの処理能力を確保できます。さらに、メモリ（RAM）は最低でも64GB以上、マルチGPU構成なら128GB以上のDDR5メモリを搭載することで、ProxmoxホストとVM間のリソース競合を防ぎます。

実装における落とし穴：Error 43回避とVFIOの罠

ProxmoxでのGPUパススルーにおいて最も高い障壁となるのが、NVIDIAドライバによる「Error 43」の検知です。これは、ドライバーが仮想環境を検知した際に動作を停止する保護機能ですが、近年のコンシューマー向けドライバでは緩和されているものの、依然として特定の構成や古いカーネルでは問題となります。これを回避するためには、vendor-resetモジュールの導入や、Proxmoxのブートパラメータへの適切な設定が不可欠です。

具体的な実装手順における重要なポイントは以下の通りです：

1. IOMMUグループの分離: /sys/kernel/iom40/devices を確認し、GPUが単独のグループに属しているか確認します。混在している場合は pcie_acs_override=1 をカーネルパラメータに追加します。
2. VFIOへのバインド: /etc/modprobe.d/vfio.conf にGPUのPCI ID（例: 10de:2484）を記述し、ホストがデバイスを奪取するのを防ぎます。
3. ROMファイルの抽出: 一部のGPUでは、初期化時に「VBIOS」を正しく読み込むために、物理的なマザーボードのBIOSではなく、エミュレートされたROMファイルが必要になる場合があります。特に複数のGPUを同じPC内に搭載する場合、同一のIDを持つカードに個別のROMを認識させるための処理が必要です。

また、Proxmox特有の注意点として、「C-State」によるシステムのハングアップがあります。特にAMD Ryzen環境において、アイドル状態から高負荷なLLM推論へ移行する際にシステムがフリーズする現象です。これを防ぐために、BIOSでGlobal C-state Controlを無効にするか、カーネルパラメータに processor.max_cstate=1 を付加することが推奨されます。

さらに、GPUの「再起動（Reset）」に関する問題も重要です。ProxmoxでVMを再起動した際に、GPUが正常にリセットされず、次回の起動時にデバイスが見つからなくなる現象です。これを解決するために vendor-reset カーネルモジュールを導入し、PCIeバス上のデバイスを強制的にリセットする仕組みを構築する必要があります。

パフォーマンス比較と運用コストの最適化（Docker vs VM）

Proxmox環境でLLMを動かす際、最終的な実行環境として「GPUパススルーを用いたVM」か、「ホスト上で直接動作するDockerコンテナ」かの選択肢があります。この選択は、運用の柔軟性とリソースの効率性のトレードオフによって決まります。

1. GPUパススルー（VM）のメリットとデメリット

• メリット: 完全に隔離された環境で動作するため、ホストOSのカーネルやドライバの競合を無視できます。また、複数の異なるOS（Ubuntu, Debian等）で実験を行うことが容易です。
• デメリット: ホストからGPUを奪うため、Proxmox上で動かす他のサービス（例：PVE上の別のVMでのGPU処理）と共有できません。また、PCIeパススルーのオーバーヘッドにより、極めて微量ながらレイテンシが発生する可能性があります。

2. Docker (Host) のメリットとデメリット

• メリット: ホスト側でNVIDIA Container Toolkitを使用することで、単一の物理GPUを複数のコンテナ間で動的に共有（MIGやTime-slicing）することが可能です。
• デメリット: ホストOSに直接ドライバをインストールするため、Proxmoxシステムの安定性に影響を与えるリスクがあります。また、VMのような完全な隔離がないため、カーネルレベルでの競合が発生する可能性があります。

以下は、運用形態によるリソース管理とスケーラビリティの比較です。

結論として、2026年現在の技術スタックでは、**「1台の強力なGPU（RTX 4090等）を特定のVMにパススルーし、そこからAPIサーバー（OpenAI互換など）を立てる」**構成が、ホームサーバーにおけるローカルLLM運用として最も安定した選択肢となります。これにより、Proxmoxの管理利便性を保ちつつ、推論エンジンに特化した環境を構築することが可能です。

FAQ

Q1: ProxmoxでGPUパススルーを行った後、WebUI（例: Text-Generation-WebUI）からアクセスできないのはなぜですか？ A1: 多くの場合、VM内のネットワーク設定がブリッジモードになっていないか、あるいはホスト側のファイアウォール（iptables/nftables）がポートをブロックしていることが原因です。また、モデルのロードに時間がかかり、サーバーが応答していない可能性も高いため、まずはVM内で nvidia-smi コマンドが正常に動作し、GPUメモリが消費されているかを確認してください。

Q2: 複数のGPUがある場合、Proxmix上でどのように使い分けるのが効率的ですか？ A2: 推奨は「役割の分離」です。例えば、1枚をビデオエンコードやメディアサーバー用（Plex等）に固定し、もう1枚をLLM専用のVMにパススルーします。これにより、GPUの競合を防ぎながら、それぞれの用途に最適なドライバ設定とリソース配分を行うことができます。

Q3: パススルー後に「Error 43」が出た場合の即効性のある解決策は？ A3: まずはホスト（Proxmox）側で vfio-pci が正しく適用されているか確認してください。その後、VM内のゲストOSでNVIDIA公式の最新ドライバをインストールし、必要に応じて nvidia-kms の設定を確認します。それでも解決しない場合は、カーネルパラメータに pci=realloc を追加することで、PCIeバス上のリソース再割り当てが改善されることがあります。

ローカルLLM運用におけるGPU構成と環境の徹底比較

Proxmox上でローカルLLMを動かす際、最も重要な意思決定は「どのGPUを採用し、どのような仮想化レイヤーで実行するか」です。2026年現在の技術動向を踏まえ、ハードウェア選定からソフトウェアスタックの選択まで、実用的な判断基準を5つの比較表で詳述します。

まず検討すべきは、LLM推論における計算コアとVRAM容量のバランスです。特にNVIDIAのRTXシリーズはCUDAコアの最適化が進んでおり、多くのオープンソースLLM（Llama 3, Mistral系）においてデファクトスタンダードとなっています。

1. 主要GPUモデルのスペック・価格比較（2026年最新動向）

ローカルLLMを動かす上で最も重要なのはVRAM容量です。70Bクラスのモデルを量子化（4-bit等）して動作させるには、最低でも48GB以上のVRAM、あるいは複数枚のGPUを統合する構成が求められます。

2. 推論モデルサイズと必要VRAMの相関表

LLMを動かす際の「快適な推論」を実現するための、パラメータ数と必要なメモリ容量の目安です。Proxmoxでパススルーを行う際、この容量を確保できるGPUを選択する必要があります。

3. GPUパススルー vs Dockerコンテナの運用比較

Proxmox環境において、LLMを動かすための「実行レイヤー」の選択肢です。結論として、完全なハードウェア制御と独立性を求めるならVM+Passthrough、リソース共有と柔軟性を求めるならDocker（Hostモード）となります。

4. GPUベンダー別・仮想化対応マトリクス

Proxmox環境でGPUをパススルーする際の、ハードウェア固有の制約と互換性です。NVIDIA以外の選択肢も検討されることがありますが、LLMエコシステムの充実度からNVIDIAが推奨されます。

5. 実装構成における「安定性」と「拡張性」のトレードオフ

ホームサーバーを構築する際に直面する、ハードウェア構成とソフトウェア設計のバランスに関する比較です。

これらの比較から明らかなように、「70B以上のモデルを快適に動かしたいならRTX 3090/4090の2枚構成（またはA6000）」、**「まずは手軽に高品質な回答を得たいならRTX 4090単体」**という選択が、Proxmox環境におけるLLM構築の黄金律となります。特にマルチGPU構成を選択する場合は、ProxmoxのIOMMUグループを正確に分離し、各パススルー用VMに対して個別のPCIeデバイスとして認識させる手順が不可欠です。

よくある質問

Q1. ProxmoxでローカルLLMを動かす際、GPUのコストパフォーマンスが良いモデルは？

推論性能とVRAM容量のバランスから、NVIDIA GeForce RTX 4090（24GB）やRTX 3090が依然として主流です。特にマルチGPU構成を検討する場合、メモリ帯域を確保できるRTX 4060 Ti 16GBモデルも安価なエントリー構成として選ばれています。予算に合わせてVRAM容量を最優先に選択することが、LLMの量子化パラメータ（4-bit/8-bit）を維持するための鍵となります。

Q2. GPUパススルーを行う際、中古のRTX 30シリーズは問題ない？

中古のRTX 3090や3090 Tiは、高いVRAM容量からローカルLLM運用において非常に人気がありますが、VFIOでの認識に注意が必要です。特定の個体で「Error 43」が発生する場合でも、vendor-resetカーネルモジュールの導入により安定動作が可能です。中古品を購入する際は、初期不良やハードウェア的な故障だけでなく、PCIeスロットのレーン数（x16推奨）を確保できるマザーボードとの組み合わせを確認してください。

Q3. Proxmox上のVMで動かす場合と、Docker上で直接動かす場合の違いは？

最大の差異は「リソースの隔離」と「管理の柔軟性」にあります。Docker環境ではホストOSとGPUを共有するためオーバーヘッドが少ない一方、Proxmox VM（KVM）上であれば完全に独立したOS環境でLLMを実行でき、バックアップやスナップショットの活用が容易です。運用負荷を下げるならDockerですが、実験的な構成や複数の異なるモデル環境を分離したい場合はVM経由のパススルーが推奨されます。

Q4. 複数のGPUを1台のProxmoxサーバーで別々のVMに割り振れる？

IOMMUグループが適切に分離されていれば、複数枚のGPUを個別の仮想マシン（VM）へ割り当てることが可能です。例えば、RTX 4090を2枚搭載し、1枚目はLLM専用のU[bun](/glossary/bun-runtime)tu VM、もうひとつはメディアサーバーや画像生成用のVMといった使い分けが可能です。ただし、マザーボードやCPUのPCIeレーン数に制約があるため、リダイレクタ（PCIeスイッチ）の使用を検討する必要がある場合もあります。

Q5. AMDのGPU（RX 7000シリーズなど）もProxmoxでパススルーできる？

AMD製GPUもProxmox上でパススルー可能ですが、NVIDIAと比較するとドライバ周りの挙動やROCm環境の構築に特有の手順が必要です。特に[Radeon RX 7900 XT](/glossary/radeon-rx-7900-xt)X（24GB）などは高いVRAMを誇り、LLM用途で注目されていますが、仮想環境での安定性を重視するなら現時点ではNVIDIA製GPUの方がトラブルシューティングの情報量が圧倒的に多いため、推奨されることが多いです。

Q6. GPUパススルーに失敗した際、最も多い原因は何？

最も多い原因は「IOMMUグループの混在」と「ホストOSによるデバイスの掴み（Grab）」です。Proxmoxホスト自体がGPUを初期化してしまい、VMに渡せない状態になっていることが多いため、vfio-pci.idsへの登録や、GRUBでのpcie_acs_override=1の適用が必要です。また、最新のNVIDIAドライバ（550系以上など）における特定の挙動変更も原因となるため、カーネルとドライバの整合性を確認してください。

Q7. 安定動作のために必要な最小限のPCIeレーン数は？

ローカルLLMを快適に動作させるには、メインのGPUに対してx16またはx8以上の物理的な帯域確保が推奨されます。Proxmox環境ではCPU直結のPCIeスロットを使用することが望ましく、チップセット経由（DMI）のレーンは帯域不足や不安定化の原因となるため避けるべきです。特にマルチGPU構成を検討する場合、マザーボードの仕様書を確認し、合計で16レーン以上を確保できる構成を組むことが重要です。

Q8. 仮想マシン内でLLMを実行する際、CPUのコア数はどれくらい必要？

LLMの推論自体はGPU（CUDAコア）が主導するため、CPUコア数は極端に多くなくても動作しますが、トークンの前処理やデータロードのために最低でも4〜8コアを割り当てるのが一般的です。Proxmoxでリソースを最適化する場合、ホスト側で余剰な計算資源を確保しつつ、VMには必要な範囲（例：EPYCやThreadripper環境なら16コア以上）を割り振ることで、マルチタスク環境でも安定したレスポンスを維持できます。

Q9. 2026年以降を見据えて、ローカルLLMのハードウェア選定で重視すべき点は？

今後数年は「VRAM容量」と「メモリ帯域（HBM3/[[GDDR](/glossary/gddr6)6](/glossary/ddr6)X）」が最重要項目となります。モデルの巨大化に伴い、Llama-3系やそれ以降のモデルを動かすには24GB以上のVRAMが必須条件となりつつあります。そのため、将来を見据えるなら単一の高性能カードよりも、パススルーで安定動作する複数枚のGPU構成（例：RTX 3090×2など）を構築できるマザーボードと電源ユニット（1000W以上推奨）を選定することが賢明な投資となります。

Q10. GPUパススルーの設定変更後、Proxmoxを再起動せずに反映させる方法は？

基本的にはカーネルパラメータの変更やmodprobeの設定変更を行うため、ホストの再起動が必要になりますが、一部のモジュール再読み込みであれば可能です。しかし、GPUデバイスをホストから切り離しVMへアタッチするプロセスが含まれるため、安定性を担保するにはProxmoxホストの再起動（reboot）を実行するのが最も確実な手順です。設定変更後は必ず lspci -nnk コマンドで、対象のGPUが正しいvfio-pciドライバで動作しているか確認してください。

まとめ

Proxmox VE環境でローカルLLMを運用するためのGPUパススルーは、適切なIOMMUグループの分離とNVIDIAドライバの最適化を行うことで、実用的なパフォーマンスを引き出すことが可能です。2026年現在の技術スタックにおいて、円滑な運用を実現するための要点は以下の通りです。

• ハードウェアの選定: 物理的な[PCIeスロットの分離とIOMMUグループの独立性が必須であり、特にマルチGPU構成では適切なマザーボード設計が重要となります。
• カーネルパラメータの設定: /etc/default/grubへの intel_iommu=on や amd_iommu=on の記述、および vfio-pci へのデバイス割り当てを正確に行う必要があります。
• Error 43の回避: NVIDIAドライバによる制限を回避するため、vendor-resetカーネルモジュールの導入や適切なROMファイルの適用が不可欠です。
• リソースの最適化: LLM実行時にはVRAM容量（例：RTX 4090の24GBなど）が最優先されるため、VMへのメモリ割り当てを「Hugepages」等で最適化することが推奨されます。
• 運用形態の選択: Dockerによるコンテナ運用はリソース共有に優れますが、完全なハードウェア隔離と安定性を求めるならProxmox上のVM（KVM）での構築が有利です。
• 最新ドライバの維持: 2026年時点の最新[CUDA ToolkitおよびNVIDIAドライバを常に適用することで、最新の量子化モデルや推論エンジンとの互対応を確保します。

まずは現在のマザーボードとCPUの仕様を確認し、lspci -nnコマンドを用いてGPUがどのIOMMUグループに属しているかを特定することから始めてください。環境が整った段階で、Proxmoxのコンソールからパススルーの設定手順に従い、独自のローカルLLM環境を構築しましょう。