AI・機械学習用語集

LLM Cost-Aware Routing（コスト最適化ルーティング）とは、応答品質の制約条件を満たしつつ API 利用コストを最小化するようリクエストを複数モデル間で振り分ける運用戦略である。LiteLLM・OpenRouter・Portkey 等のゲートウェイツールがバジェット管理とルーティングを統合的に提供する。

LLM APIの利用コストをリアルタイムで追跡・可視化・アラートする仕組み。トークン消費量・モデル別コスト・エンドポイント別コストを監視し、予算超過や異常利用を早期検出する。

LLM APIの利用コストを削減するための技術・戦略の総称。モデル選択・プロンプト圧縮・キャッシング・バッチ処理・ルーティングなどの手法を組み合わせて、品質を維持しつつトークンあたりのコストを最小化する。

キャッシング・モデルルーティング・バッチ処理・プロンプト圧縮を組み合わせてLLM API利用コストを削減する戦略と技術の総称。大規模運用では月数百万円のコスト削減が可能。

LLM APIの利用コストをリアルタイムに集計・可視化するダッシュボード。モデル別・機能別・ユーザー別のコスト内訳を表示し、予算超過の早期検知とコスト最適化の意思決定を支援する。

LLMコンテキスト容量進化。Claude Opus 4.7 1M context(2025年・Extended Thinking含)・Gemini 2.5 Pro 2M context(8hours音声/動画)・GPT-5 128K/Pro 1M・Llama 4 Scout 10M context(実用限界)・DeepSeek V3 128K・Qwen3 128K extend・RoPE Scaling(Rotary Position Embedding拡張)・Needle in Haystack test・Long Context Benchmark・RULER 128K・2026年1M+主流化、コスト問題課題。

LLMの入出力テキストを分析し、暴力・差別・性的表現・違法行為の助長などの有害コンテンツを検出・遮断するフィルタリング機構。キーワードマッチング、ML分類器、埋め込みベースの意味解析など複数手法が併用される。

類似ペアの表現を近づけ、非類似ペアの表現を遠ざける損失関数。文埋め込みモデルや検索特化LLMの学習に不可欠な技術。

LLM（大規模言語モデル）をコンパイラ最適化に応用する技術、またはLLM自体の推論パイプラインをコンパイラ技術で高速化するアプローチの総称。Meta LLM Compilerやコード生成特化モデルが代表例。

LLMが自信を持って事実と異なる情報を生成する現象を、神経心理学の「作話（confabulation）」から借用した用語。ハルシネーションとほぼ同義だが、モデルが意図的に嘘をついているのではなく構造的に発生する点を強調する。

LLMがテキストを生成する際に次のトークンを選択するアルゴリズムの総称。Greedy Decoding・Beam Search・Temperature Sampling・Top-k・Top-p・Min-p・Mirostat など多数の手法があり、タスクの性質に応じて使い分けることで出力品質を最適化する。

LLMの出力を構文的に有効なJSONに限定するAPIオプション。OpenAI、Anthropic、Gemini、Mistralなど主要プロバイダが提供し、response_formatパラメータで有効化する。スキーマ準拠は保証しないが、json.loadsで確実にパースできる出力を得られる。

LLMの安全性ガードレール（有害コンテンツ生成の拒否・倫理的制約等）を回避し、本来拒否されるべき応答を引き出す攻撃手法。プロンプトインジェクションの一形態であり、DAN（Do Anything Now）・多言語攻撃・エンコード攻撃・仮想シナリオなど多様な手法が存在する。

LLMジェイルブレイクとは、大規模言語モデルに設定された安全ガードレールやシステムプロンプトの制約を巧妙なプロンプト操作で回避し、本来拒否されるべき有害・危険なコンテンツを出力させる攻撃手法の総称である。

安全フィルターを迂回してLLMに有害コンテンツを生成させる「脱獄（jailbreak）」攻撃に対する防御手法の総称。プロンプトフィルタリング・モデルレベル対策・監視システム等の多層防御で構成される。

LLMの安全制約を迂回する「ジェイルブレイク」攻撃を検出・防止するための技術的対策の総称。

LLMが自分の出力に対してフィードバックを生成し、そのフィードバックをもとに出力を反復的に改善する手法。追加訓練なしで品質向上が見込める。

LLM事実検証（Fact Verification）とは、大規模言語モデルが生成した応答内容を外部の信頼できる情報源と照合し、事実の正確性を自動的に評価・修正する技術である。FActScore、SAFE、Self-Consistency等の手法があり、生成後のハルシネーション検出とフィルタリングに用いられる。

LLMの出力が入力コンテキスト（プロンプト・参照文書）の内容と矛盾せず、事実に忠実であるかどうかを測る品質指標。

LLMが生成するテキストの事実的正確性を体系的に測定するための評価データセットとスコアリング手法の総称。FActScore・TruthfulQA・HaluEval等が代表的で、モデルの信頼性比較や改善指標として使用される。