2990件の用語
LLM Cascade Routing（カスケードルーティング）とは、安価な軽量モデルで最初に応答を生成し、品質が閾値未満の場合に段階的により高性能なモデルへエスカレーションする推論戦略である。FrugalGPT の研究で提唱され、最大 98% のコスト削減を品質維持しつつ達成する。
カリキュラム学習（Curriculum Learning）とは、人間の教育課程に着想を得て、訓練データを簡単なサンプルから難しいサンプルへと段階的に提示する機械学習の訓練戦略である。LLM の文脈では、テキストの複雑度・長さ・ドメイン専門性などに基づいてデータ順序を最適化し、収束速度の向上と最終性能の改善を実現する。
LLMから特定の知識・訓練データの影響を除去する技術。著作権侵害・プライバシー保護・有害情報削除を目的とする。
LLMが論理規則・数式・アルゴリズムなど記号的表現を操作して推論する能力。演繹推論・数学的証明・アルゴリズム実行などを含み、ニューラルと記号AIの融合研究の核心。
LLM推論の結果やモデルの中間状態を保存・再利用する技術の総称。完全一致キャッシュ、セマンティックキャッシュ、KVキャッシュ、プロンプトキャッシュなど複数の手法を包含し、推論コスト削減・レイテンシ改善・スループット向上を目的とする。
LLMの推論コストと応答遅延を削減するためのキャッシュ技術群。KVキャッシュ、セマンティックキャッシュ、プロンプトキャッシュ、プレフィックスキャッシュなど複数のレイヤーで最適化を行い、同一・類似クエリへの再計算を回避する仕組み。
LLM推論の計算結果やレスポンスを保存・再利用することで、応答速度の向上とコスト削減を実現する技術群の総称。プロンプトキャッシュ、KVキャッシュ、セマンティックキャッシュなど複数の階層が存在する。
LLMが出力する確信度スコアが実際の正答率と一致するよう調整するプロセス。ECE（Expected Calibration Error）で定量化し、温度スケーリング等で補正する。
LLMが出力する確率スコアが実際の正解率と一致しているかを測定・調整する技術。Expected Calibration Error（ECE）が主要指標で、値が低いほど確率の信頼性が高い。
LLMの重み精度を低減し、メモリ消費量と計算負荷を抑える技術。FP16からINT8/INT4/FP4等へ変換することで、巨大なモデルをコンシューマ向けGPUやエッジデバイスでの高速推論・動作可能にする手法。
訓練データで見た要素の新しい組み合わせを推論できる能力。「赤い四角を90度回転」を学んだモデルが「青い円を90度回転」を正しく実行できるかを検証する概念。
LLMの出力を外部の信頼できる情報源（データベース・検索結果・ドキュメント）に基づかせることで、事実に即した回答を生成させる技術的手法の総称。
LLMグラウンディングとは、大規模言語モデル（LLM）の出力を外部の事実情報や信頼できるデータソースに紐付けることで、幻覚（ハルシネーション）を抑制し応答の正確性を担保する技術体系である。検索拡張生成（RAG）、知識グラフ連携、引用生成、事実検証など複数のアプローチが存在する。
LLMが生成したテキスト中の個別の主張（claim）を自動的に抽出し、外部情報源と照合してその真偽を判定する技術。
大規模言語モデルが新しいタスクやドメインを学習しながら、既存の知識を保持し続ける機械学習パラダイム。壊滅的忘却（Catastrophic Forgetting）を防ぎつつ、モデルを継続的に更新する手法の総称。
大規模言語モデル（LLM）をデプロイ後も新しいデータや知識で継続的に更新し続ける技術群の総称。破壊的忘却（Catastrophic Forgetting）を回避しながら新知識を獲得するため、Elastic Weight Consolidation・Experience Replay・LoRAアダプタ等の手法が用いられる。
学習済みLLMに新たなデータを追加学習させ、知識更新やドメイン特化を行う技術。完全再学習を避けコストを削減しつつモデルを最新化する。
学習済みLLMを医療・法律・金融など特定ドメインのコーパスで継続学習し、専門知識と一般能力を両立させるトレーニング手法。
2つの確率分布間の非対称な距離を測定する情報理論的指標。知識蒸留やRLHFのKLペナルティとしてLLM学習の中核を担う。
複数のLLMプロバイダ（OpenAI、Anthropic、Google、ローカルLLM等）へのアクセスを統一APIで抽象化し、ルーティング・認証・レート制限・コスト管理・ロギング・キャッシュ等の横断的機能を提供するミドルウェア。APIゲートウェイのLLM特化版であり、LiteLLM、Portkey、Helicone等が代表的。