※本記事にはアフィリエイト広告（プロモーション）が含まれています
PCパーツ・ガジェット専門
自作PCパーツやガジェットの最新情報を発信中。実測データに基づいた公平なランキングをお届けします。
MoEモデルの必要メモリは、アクティブパラメーター数だけでは決まりません。Mixtral 8x7Bは総46.7B・トークン当たり12.9Bを使うモデルですが、重みの保存には総数に応じた容量が必要です。ローカルPCで選ぶときは、配布ファイルの容量、CPU／GPUへの配置、実行時の追加メモリを分けて確認します。
この記事では、2026年10月15日に確認した公式資料を基に、MixtralとLFM2.5-24B-A2Bを例に判断方法を整理します。旧版にあったMixtralのアクティブ数「約39B」「約45B相当」は誤りのため訂正しました。GPUの実測や、特定構成での動作保証を示す記事ではありません。
MoEは入力に応じて一部のエキスパートを選んで計算する構造です。「使う部分が少ない」ことと「残りの重みを保存しなくてよい」ことは同じではありません。
| 確認項目 | 意味 | PC選びへの使い方 |
|---|---|---|
| 総パラメーター数 | モデル全体の重みの規模 | 保存容量や重みを展開する容量の概算に使う |
| アクティブパラメーター数 | 1トークンの処理で使う重みの規模 | 演算量の特徴を見る。必要VRAMへ直結させない |
| 配布ファイル容量 | 選んだ形式・量子化の実ファイルサイズ | ダウンロード先の空き容量と実行準備の出発点 |
| 実行時メモリ | 重み、KVキャッシュ、作業領域など | 文脈長・配置・同時要求数を固定して測る |
たとえば「アクティブ2Bだから、2BのDenseモデルと同じ容量で動く」という計算はできません。共通層もあるため、モデル名の数字を単純に掛けた値が総数になるとも限りません。
| モデル | 総数 | トークン当たりのアクティブ数 | 読み違えやすい点 |
|---|---|---|---|
| Mixtral 8x7B | 46.7B | 12.9B | 8×7B＝56Bではない。アクティブ39Bでもない |
| LFM2.5-24B-A2B | 24.0B | 2.45B | 名前のA2Bは丸めた表記。重み全体が2Bになるわけではない |
Mixtralの値はMistralの公式発表に基づきます。LFM2.5は公式モデルカードの値です。別のQwenやMixtral派生モデルへ、この表の値を流用しないでください。
LFM2.5-24B-A2Bはテキスト用のreasoningモデルです。最終回答より前の推論過程も生成するため、生成トークン数だけでなく、質問から最終回答までの待ち時間を確かめる必要があります。
重みの大まかな容量は「総パラメーター数×1パラメーター当たりのビット数÷8」で見積もれます。ただし、量子化の補助情報や、量子化しない層などを省いた概算です。製品選定では実ファイルと実行ログを優先します。
LFM2.5の公式GGUF配布を確認すると、Q4_K_Mは14,526,258,464バイト、QAD-Q4_0は13,578,190,880バイトでした。十進のGBでは約14.5GBと約13.6GBです。これはファイル容量であり、必要VRAMの実測値ではありません。
16GB GPUに約14.5GBのファイルが入るように見えても、画面表示や他アプリ、キャッシュ、作業領域が同じGPUメモリを使います。「差し引き約1.5GBあるから必ず動く」とは判断できません。OSの表示単位がGBかGiBかにも注意してください。
llama.cppにはCPUとGPUを組み合わせた推論経路があります。全重みを常にGPUへ置くことが唯一の方法ではありません。ただし、CPU側のメモリ容量、帯域、CPUとGPU間の転送が待ち時間へ影響します。
「読み込めた」「応答が返る」「希望する待ち時間で使える」は別の合格条件です。複数GPUでも、容量を増やせることと速度が上がることを分けて評価します。接続方式や分割方法を揃えず、GPU枚数だけで性能を予想しないでください。
まずモデルと実行ソフトの対応を確認します。古いアプリが新しいモデルの構造や会話テンプレートを解釈できない場合、VRAMを増やしても解決しません。公式カードから使用する実行ソフトの案内へ進み、モデル名・量子化・配布リビジョンとソフトの版を記録してください。
初回は短い質問と小さな文脈長から始め、成功してから一つずつ条件を増やすと原因を切り分けやすくなります。公式カードの文脈上限131,072トークンは、手元のPCがその長さを処理できる保証ではありません。
| 記録する項目 | 比較時に固定する内容 |
|---|---|
| モデル | 正式名、配布リビジョン、量子化形式、ファイル容量 |
| 実行環境 | ソフトの版、バックエンド、GPU・ドライバー、RAM |
| 配置 | GPUへ載せた部分、CPU側へ残した部分 |
| 入出力 | 文脈長、同じ質問、出力上限、同時要求数 |
| 結果 | 読込成否、メモリのピーク、最初の応答と最終回答までの時間 |
メーカーの高速化グラフは、その測定条件での結果です。自宅PCの保証値として転載せず、量子化、入力長、バッチ処理の有無を確認します。本記事では独自のtokens/sや消費電力を提示していません。
判断1：アクティブ数だけを理由にGPUを買い足さない。 手持ち環境で対応モデルが読み込めるか、どこへ重みが配置されるかを先に確かめます。一般的な容量の選び方はローカルLLMのVRAMガイドも参照してください。
判断2：MoEとDenseは同じ質問・同じ制約で比較する。 重みが小さいDenseモデルのほうが扱いやすい用途もあります。回答品質と待ち時間を一緒に見て、必要なモデルだけ残すほうが実用的です。量子化については量子化ガイドで補足しています。
公式値は12.9Bで、約13Bと表現できます。総数46.7Bとは区別します。
アクティブ数だけでは決められません。総数24.0Bの重みを、選んだ量子化と配置で保持できるかを確認します。
保証できません。配布ファイル以外のメモリ使用と、実行ソフトの対応状況が関係します。
CPU側へ配置できる実行経路なら役立つ場合があります。ただしGPUへすべて載せた場合と同じ速度になるわけではなく、RAM自体にも空きが必要です。
そうは限りません。分割方法、接続帯域、処理の待ち合わせなどが影響します。容量目的と速度目的を分けて試してください。
必ずではありません。アクティブ数は判断材料の一つです。モデルの学習、量子化、実行実装、質問によって結果が変わるため、用途に近い条件で比べます。
GPU VRAMが8GB・12GB・16GB・24GBの場合に動作するローカルLLMモデルを量子化別に一覧化。実効速度と体感品質の差、最小構成から最適構成まで用途別の選び方を解説。
高温になるGPUのVRAM・VRM温度をサーマルパッド交換で改善。パッドの厚み選定、熱伝導率、分解手順、メモリジャンクション温度の測定、交換前後の実測、保証リスクを具体的に解説。
画像・動画を理解できるマルチモーダルLLMをローカル自作PCで実行する方法。Vision Encoder付きモデルのVRAM要件・速度・精度をGPU別に比較する。
複数GPUで大規模ローカルLLMを動かす構成。VRAM合算とテンソル並列、対応フレームワーク(vLLM/llama.cpp)、PCIeレーンと帯域、電源/冷却、マザーボード選び、コスト効率を実測観点で解説。
機密文書をローカルで扱うRAG(検索拡張生成)を自作PCで構築。埋め込みモデル・ベクトルDB(Qdrant等)・LLMの組み合わせ、必要VRAM/RAM、精度と速度、推奨構成を実測で解説。
ローカルで動くVision LLM（Qwen-VL 7B・LLaVA・Gemma4 Vision）で画像認識・OCR・図表解析を行うPC構成を解説。
この記事で紹介したAI PC向けGPU・メモリの商品情報をAmazonで確認できます。
Q: さらに詳しい情報はどこで？
A: 自作.comコミュニティで質問してみましょう。