AI・機械学習用語集

LLM外部API呼出機能。OpenAI Function Calling v3(parallel tools・strict mode)・Anthropic Tool Use・Google Gemini Automatic Function Calling・xAI Grok Tools・Qwen3 Agent mode・Llama 4 Tool Use・Mistral Function Calling・Gorilla LLM(Berkeley)・MCP Tools・LangGraph ToolNode・LlamaIndex Function Tool代表、Agent基盤。

GPT系の自己回帰言語モデルが採用する訓練目標。前のトークン列を条件として次のトークンを予測するクロスエントロピー損失を最小化することで、言語の統計的パターンを学習する事前学習手法。

LLMが複数の推論経路を木構造で探索し、最適解を選択するフレームワーク。Chain of Thoughtを拡張し、分岐・評価・バックトラックを可能にする。

LLMに複数の中間思考ステップを木構造で生成させ、BFS/DFSで探索しながら自己評価で枝刈りして推論精度を高めるPrompting手法。

LLMの推論をツリー構造で複数ブランチ展開し、各ノードを評価・探索するフレームワーク。Chain-of-Thoughtの線形推論を超え、バックトラック・最良優先探索でより難解な問題を解く。Princeton/Google 2023。

2023年Yao et al. + Princeton発表Tree-of-Thoughts paper・Industry-leading Tree-of-Thoughts reasoning paradigm + Industry-leading tree-search-based LLM reasoning + Industry-emerging ToT Princeton Pioneer。

Chain-of-Thought を木構造に拡張し、各推論ステップで複数の分岐を生成・評価して最適な推論経路を探索する手法。BFS/DFS による体系的な探索で、単一パスの CoT では解けない複雑な問題に対応する。

LLMの推論プロセスを木構造として展開し、複数の思考パスを並列に探索する手法。各ノードが中間的な思考状態を表し、幅優先探索（BFS）や深さ優先探索（DFS）で最適な推論経路を発見する。Yao et al.（2023）が提案。

LLMに複数の推論経路を木構造で探索させ、各分岐を自己評価しながら最適な解法を選択するプロンプト技法。Chain-of-Thoughtの拡張版で、複雑な問題解決・計画立案タスクに有効。

投機的デコーディングを木構造に拡張した手法。ドラフトモデルが1つの線形シーケンスではなく複数の分岐候補を木構造で生成し、ターゲットモデルがTree Attention（木構造注意機構）で全分岐を同時検証する。SequoiaやMedusa v2が代表的な実装で、線形方式と比べて受理トークン数の期待値を40〜80%向上させる。

ツリーベース投機的デコーディング（Tree-based Speculative Decoding）は、ドラフトモデルが単一のトークン列ではなく複数の候補列をツリー（木）構造で同時に生成し、ターゲットモデルがツリーアテンション（Tree Attention）を用いて全候補を一括検証する投機的デコーディングの拡張手法である。SpecInfer、Sequoia、Medusa（ツリーモード）が代表的であり、線形投機と比較して採択トークン数を大幅に増加させることで3〜5倍のスピードアップを実現する。

各モデルのタスクベクトルからパラメータをランダムにドロップアウトし、残ったパラメータをスケーリングして統合するマージ手法。確率的探索により高品質なマージ解を発見できる。

2023年提案のLLMマージ前処理手法。ファインチューニング差分ベクトルのパラメータをランダムにドロップ（ゼロ化）し、残ったパラメータを1/p倍にリスケールすることで干渉を減らしてからマージする。

The Browser Companyが発表した、Arc Browserの後継となるAIネイティブ・ブラウザ。Web閲覧とチャット機能が高度に統合されており、自然言語による操作を主軸とした次世代のブラウジング体験を提供する。

米 The Browser Company 2024-2025年公開の AI ファースト ブラウザ。Arc Browser 後継 + AI チャット統合・「AI ブラウザ業界主流革命」.

Hugging Faceが開発するLLMの強化学習・選好学習ライブラリ。PPO・DPO・GRPO・KTO・ORPOなど最新の選好最適化アルゴリズムをTransformers/PEFTと統合して提供し、SFTTrainer・DPOTrainer・PPOTrainerの各コンポーネントが業界標準として広く使われる。

特定のダウンストリームタスクに関連するデータのみを用いてモデルを追加事前学習する手法。DAPTより小規模データで効率的に特化できる。

ドメイン固有の大量テキストで言語モデルを追加事前学習し、専門領域への適応性を高める手法。ACL 2020のDon't Stop Pretrainingで提案。

Stanford NLP グループが開発したLLMプログラミングフレームワーク。プロンプトエンジニアリングを「プログラミング」に置き換え、LLMパイプラインのモジュール定義・自動プロンプト最適化・評価を体系的に行う。手動プロンプト調整からの脱却を目指す2023年公開のPythonライブラリ。

Stanford NLP Groupが開発した宣言型LLMプログラミングフレームワーク。手動プロンプトエンジニアリングを排除し、入出力の型定義と評価メトリクスに基づいてプロンプトやFew-Shot例を自動最適化する。