用語集

TransformerのFFN層を複数の「専門家（Expert）」と、それらを制御する「ゲートネットワーク」に分割したアーキテクチャ。入力トークンごとに必要なエキスパートのみを動的に選択し、計算量を抑えつつモデルの大規模化を実現する。

疎活性化Transformer。DeepSeek V3(671B total・37B active)・DeepSeek R1(同)・Llama 4 Scout(109B total・17B active)・Llama 4 Maverick(400B total・17B active)・Mistral 8x22B・Mixtral 8x7B・Qwen3-235B-A22B・Snowflake Arctic(480B・17B active)・GPT-4(1.8T・推定 MoE)・Gating Router・Top-K選択・Load Balance Loss対応、2026年大規模LLM主流アーキテクチャ。

ニューラルネットワークで、複数の専門家（Expert）サブネットワークから入力に応じて一部のみを選択・活性化するアーキテクチャ。巨大モデルを効率的に学習・推論するための主要技術。

MoE Mixture of Experts Model Architecture。Sparse MoE (Active Parameter < Total)・DeepSeek V3 671B Total/37B Active・DeepSeek R1 671B/37B Active・Llama 4 Maverick 400B/17B Active・Llama 4 Scout 109B/17B Active・Mixtral 8x7B/8x22B Mistral・Qwen2.5-MoE-A14B・GShard・Switch Transformer・Top-K Routing・Auxiliary Loss・Expert Parallelism・¥0 OSS、2026年MoE Architecture主流化。

Mixture-of-Experts（MoE）は、複数の専門サブネットワーク（エキスパート）とゲーティング機構を組み合わせ、入力トークンごとに一部のエキスパートのみを活性化するスパースモデル設計手法である。総パラメータ数を大幅に増やしつつ推論時の計算コストを抑制できる点が最大の特徴で、Mixtral 8x7B・DeepSeek-V3・Gemini 1.5 Pro など2024-2026年の主要LLMが採用している。

Mistral AIが2024年4月公開したSparse MoEアーキテクチャの大規模言語モデル。総パラメータ数141B・トークンあたりアクティブパラメータ約39B・コンテキスト65,536トークン。Apache 2.0ライセンスで商用利用可能なオープンソースMoEモデルとして高い性能を誇る。

2024年Mistral AI発表Mixtral 8x22B Instruct・Industry-leading Mistral AI large MoE + Industry-leading 8 experts top-2 routing + Industry-leading 141B params/39B active + Industry-leading Mistral AI instruction-tuned flagship MoE。

2023年Mistral AI (Jiang et al.)発表Mixtral 8x7B・Industry-leading first open-source MoE LLM + Industry-leading 8 experts top-2 routing + Industry-leading 47B params/13B active + Industry-leading Mistral AI flagship MoE。

2023年Mistral AI発売Mixtral 8x7B・Industry-leading open-source MoE flagship + Industry-leading 8x7B = 47B active 8 experts + Industry-leading Mistral AI France open-source + Industry-leading 全industry MoE adoption catalyst。

Mistral AIが2024年4月にリリースした大規模MoEモデル。141B総パラメータのうち39Bをアクティブ化するスパース構造で、オープンソースLLMの中でGPT-4に肉薄する性能を持つ。

Home Lab Router比較。MikroTik(RouterOS・$50-1000・Highly customizable・Steep learning curve・CCR2004-1G-12S+2XS $599・hAP ax3 $179)・UniFi Dream Machine Pro($379・GUI friendly・Cloud Key)・UniFi Dream Router($199 budget)・Firewalla Gold SE($579・Mobile app・iOS/Android focused)・pfSense+ Netgate appliance($349-1000)・OPNsense自作 mini PC($300-500 Protectli)・GL.iNet$50-200・FRR/BIRD自作Linux server・選択基準: GUI(UniFi/Firewalla) vs CLI(MikroTik) vs OSS(pfSense/OPNsense)・2026年 UniFi+MikroTik主流、Home Lab定番。

DOS BSI ブートセクタウイルス。1991年4月初発見+3月6日(Michelangelo誕生日)発動+1992年メディア大騒動+実害推計5,000台規模で大袈裟報道事例。

豪 1991年発表のタイムボムウイルス Michelangelo。3月6日 Michelangelo 誕生日にハードディスク破壊・「主流主流主流主流タイムボムウイルス業界主流」.

仏Michelin 1889年創業タイヤ技術。Pilot Sport/Primacy/CrossClimate等、Tweel エアレス・ParaTrac サステナブル・Michelin Connected。世界市場シェア15%。

DIY FPGA レトロエミュレーション基板。Terasic DE10-Nano(Intel Cyclone V FPGA)+ MiSTer 拡張基板、$300+、Arcade/SNES/Mega Drive/Saturn/Neo Geo CPS-1/2/3 等の 完全FPGA再現、レトロゲーム最高峰。

Retro FPGA Emulator+Cart 2026。MiSTer FPGA (DE10-Nano Cyclone V FPGA・Sorgelig+Frenetic+ FOSS)+MiSTer Pi (DE10-Nano互換低価格)+MiSTerCade・Analogue Pocket (Game Boy/GBA/Game Gear/NGP/Lynx FPGA)+Analogue OS+OpenFPGA Cores・Analogue Duo (PC Engine/TG-16)+Analogue Super Nt+Mega Sg+Nt mini+Pocket・Krikzz EverDrive Pro Series+EverDrive 64 v3+SD2SNES Pro+EverDrive GG X7・MISTERaddons MEGA AGS Mini Mega Drive・Polymega+Polymega Element・Hyperkin RetroN 5+Sx Game Console・Brook Universal Fighting Board・FPGA Cores Implement Sega Mega Drive+SNES+NES+PC Engine+Game Boy+GBA+Atari 2600+Arcade GAEM・¥¥¥¥¥-¥¥¥¥¥¥¥/Set、2026年MiSTer Pi+Analogue Pocket+OpenFPGA主流。

2024年Mystery Ranch (USA)発売Terraframe・Industry-leading USA hunting+backpacking external frame backpack + Industry-leading NICE Frame + Industry-leading 80L + Industry-leading $750 USD + Industry-leading Mystery Ranch USA 26年heritage 2000-2024。

Mistral AIが採用するLLM会話テンプレート。`[INST]`/`[/INST]`トークンでユーザー発話を囲み、マルチターン会話では`</s>`でターンを区切る形式。Mistral 7B v0.1から採用され、Mixtral/Mistral Large系でも継続使用。

Mistral AI モデル(France・OSS+commercial)。Mistral Large 2(123B・$2/$6 per Mtok・La Plateforme)・Mistral Small 3(24B・$0.20/$0.60・2025年1月)・Pixtral Large 124B(2024年11月・Vision Multimodal)・Pixtral 12B(small VLM)・Codestral 25.01(22B・Code・FIM)・Codestral Mamba(7B・Mamba arch)・Mistral Nemo 12B(Nvidia共同・128K context)・Ministral 3B/8B(Edge)・Mathstral 7B・Le Chat(Free・Web/Mobile)・Apache 2.0 OSS multi-model・Hugging Face download・2026年 EU AI Act準拠・Sovereign AI需要拡大。

2025年Mistral AI公開Mistral OCR API。Pro 業界Pro Mainstream LLM搭載OCR API先駆 + Pro 仏国Paris Mistral AI + Pro 2023-Mistral設立 + Pro 多言語OCR + Pro Markdown出力 + Pro Layout-aware認識 + Pro $1/1000ページ + Pro 95%精度 + 累計2023-2026年3年Heritage継承代表機。