AI・機械学習用語集

LLMの自己回帰的トークン生成を高速化する手法。小型のドラフトモデルで複数トークンを先読み生成し、大型のターゲットモデルで一括検証することで、出力品質を完全に維持しながら推論速度を2〜3倍に向上させる。

小さな下書きモデルが複数トークンを先行予測し、大きなターゲットモデルが一括検証することでLLM生成速度を2〜5倍高速化する推論手法。2023年にGoogle DeepMindとStanfordが独立提案。品質を落とさず速度を向上できる点が特長。

小型ドラフトモデルが複数トークンを先行生成し、大型ターゲットモデルが並列検証することでLLM推論を高速化する技術。レイテンシを2〜3倍削減可能。

LLMの推論速度を向上させる技術。軽量なDraft Modelが複数のトークンを先行予測し、巨大なTarget Modelが一括で検証・修正することで、計算効率とスループットを劇的に高める手法。

LLM推論加速。Speculative Decoding (Draft Model+Target Model Verify・2-3x speedup)・Self-Speculative Decoding・Medusa (Multiple Heads・5-Head Vicuna)・EAGLE-2 EAGLE-3 (Tree-Based・3x faster Llama 3)・Lookahead Decoding・SpecInfer・REST (Retrieval-Based)・PLD (Prompt Lookup Decoding)・Multi-Token Prediction MTP (DeepSeek V3)・vLLM 0.7+対応・llama.cpp対応・¥0 OSS、2026年Multi-Token Prediction主流。

小型のドラフトモデルが候補トークン列を先行生成し、大型の検証モデルが一括で承認・却下することでLLM推論を高速化する手法。数学的に元のモデルと同一の出力分布を保証しながら、2〜3倍の速度向上を実現する。2024〜2026年に主要フレームワークで標準サポートされた。

2024年成熟Speculative Decoding・Industry-leading draft model + target model verification + Industry-leading 2-3x inference speedup + Industry-leading Leviathan+Kalman+Matias DeepMind Speculative Decoding inference optimization 2024。

RAG高速化手法。小型LMが並列で複数の検索・生成案を同時に推測し、大型LMが最善案を検証・統合することで品質を維持しながら推論レイテンシを削減する。

DeepMindが提案した投機的デコーディングの最適輸送拡張。通常の投機的デコーディングより高い受理率を達成するため、最適輸送理論を使いドラフトとターゲットの分布マッチングを最適化した高度な推論高速化手法。

2024年Svirschevski et al. (Yandex+Together AI)発表SpecExec・Industry-leading massively parallel speculative decoding LLM + Industry-leading GPU+CPU offload + Industry-leading 18.7× consumer GPU speedup + Industry-leading consumer GPU LLM inference。

Rally Legal開発のMicrosoft Word統合型契約AIアシスタント。弁護士のワークフローに直接組み込まれ、契約条項のレッドライン（変更提案）・リスク特定・新規条項生成をWord上で実行できる。OpenAI GPT-4ベース。月額サブスクリプション型でSMBローファームにも普及。

2015年7月20日Spotify公開Discover Weekly。Pro 業界Pro Mainstream Music Recommendation Top + Pro Collaborative Filtering + Pro Echo Nest買収継承 + Pro 月曜配信30曲 + Pro 6.7億+ User Pro Reference + Pro Daniel Ek Pro CEO主導 + 2024-Pro AI DJ + 2025-Pro AI Personalization拡張 + 累計2015-2025年10年Heritage。

ブロックチェーン自動実行契約。Ethereum Solidity・Cardano Plutus・Solana Rust・Polkadot Substrate・Aptos Moveが代表言語、OpenSea・Uniswap・Aaveで実装、2026年L2（Arbitrum・Optimism・Base）主流で手数料削減。

MIT・NVIDIA発のLLM後訓練量子化手法。Activationの外れ値をWeightへ数学的に移行することでW8A8（重み・活性化ともINT8）量子化を高精度に実現し、推論コスト削減とLLM品質を両立する。TensorRT-LLMやFasterTransformerで標準採用。

2022年Xiao et al. (MIT)発表SmoothQuant・Industry-leading W8A8 INT8 quantization LLM + Industry-leading smoothing activation+weight + Industry-leading OPT-175B/BLOOM-176B W8A8 + Industry-leading TensorRT-LLM production W8A8。

Hugging Faceが開発したシンプル・軽量なLLMエージェントライブラリ。CodeAgent（Pythonコードを生成・実行）とToolCallingAgent（JSON形式ツール呼び出し）の2種類のエージェントを提供し、HF Hubのモデルと直接統合できる。

2024年Q4 Hugging Face (フランス + 米San Francisco・2016年Clément Delangue + 多creators創業・Industry-leading Open-source AI platform + Industry-leading Open-source ML model hub・累計売上$50M+/year・$4B valuation 2024年・Industry-leading Open-source AI ecosystem dominant brand position確立) 発表SmolAgents・Industry-leading Lightweight Agent framework・Industry-emerging Lightweight Agent framework Pioneer 2024年Q4 release + Industry-leading Hugging Face Hub model integration + Multi-LLM agnostic + Industry-leading minimal dependency + Industry-leading Lightweight Agent Open-source Pioneer position。

Hugging Faceが2024年11月に公開した超小型言語モデルファミリー。135M・360M・1.7Bの3サイズで、ブラウザ上のWebLLMやスマートフォンでのオンデバイス推論を主目的とする。

2つのLLMの重みベクトルを高次元球面上で滑らかに補間するマージ手法。線形補間よりも重みの方向性を保持でき、品質の安定性が高い。

2024年Ashkboos et al. (ETH Zurich+Microsoft)発表SliceGPT・Industry-leading structured pruning LLM + Industry-leading PCA-based slicing + Industry-leading orthogonal transformation + Industry-leading 25-30% reduction LLaMA-2 70B/Phi-2。