14805件の用語
LLMアプリケーションの動作状況をリアルタイムに計測・収集・可視化する技術体系。トークン消費量、レイテンシ、エラー率、コストなどのメトリクスを統合的に監視し、本番環境での品質と費用対効果を継続的に最適化する。
LLMの投機的推論（Speculative Reasoning）とは、大規模言語モデルが複数の推論パスを並行して生成し、検証ステップで最も妥当な結果を選択する手法である。推論精度の向上とレイテンシ削減を両立させるアプローチとして2025年以降注目されている。
LLM投機的推論の応用分野とは、複数推論パスの並行生成と検証選択の手法が実際に活用されている具体的なドメインを指す。数学的推論、コード生成、科学的発見、医療診断支援、法的文書分析などで顕著な精度改善が報告されている。
LLM投機的推論の検証メカニズムとは、複数生成された推論パスの正確性を評価し、誤った推論を排除するための技術体系である。Process Reward Model（PRM）やOutcome Reward Model（ORM）、自己反省（Self-Reflection）などが含まれる。
LLM投機的推論のパフォーマンス最適化とは、複数推論パスの並行生成に伴う計算コスト増大を抑制しつつ推論精度を維持するための技術群である。適応的パス数制御、早期終了、キャッシュ活用などの手法が含まれる。
LLM投機的推論プロセスとは、仮説生成・自己検証・合意選択の3段階から成る推論手順である。モデルが複数の解答候補を生成し、論理的整合性を内部評価した上で最終回答を決定する一連のパイプラインを指す。
LLM（大規模言語モデル）がテキストを処理する際に、入力文字列を数値トークン列に変換するトークナイザーの設計思想・構成要素・アルゴリズム選択を体系的にまとめた技術概念。BPE・WordPiece・Unigram LM・SentencePieceなど複数の分割アルゴリズムと、語彙テーブル・特殊トークン・正規化ルールで構成される。
BPE・SentencePiece・WordPieceなどのサブワードトークナイザを学習データに適用し、テキストをトークンID列に変換する処理系。トークナイザの学習・適用・語彙管理を含む。
LLMの利用コストを決定するトークン単位の経済モデル。入力・出力トークン数に基づく従量課金体系と、プロンプトキャッシュ・バッチAPI・Provisioned Throughputなどを組み合わせた費用対効果の最適化フレームワークを指す。
LLM APIの課金単位であるトークンに基づく料金体系。入力トークンと出力トークンで異なる単価が設定され、モデルの性能クラスに応じて価格が大きく異なる。1トークンは英語で約4文字、日本語で約1〜2文字に相当する。
OpenAI・Anthropic・Google・DeepSeek等のLLMプロバイダーが採用するトークン単位の従量課金体系。入力と出力で異なる単価を設定し、バッチAPI割引・プロンプトキャッシュ割引・予約容量契約等の多層的な料金最適化オプションを提供する。
LLM APIへのリクエストごとにinput/outputトークン数を記録・集計し、コスト管理や使用パターン分析に活用する仕組み。プロバイダのレスポンスヘッダーやusageオブジェクトからデータを取得し、ユーザー別・機能別に按分する。
LLMトレーシングとは、LLMアプリケーションの各処理ステップをトレースとスパンの階層構造で記録・可視化する技術である。OpenTelemetryの分散トレーシング概念をLLM固有のセマンティクスで拡張し、パイプラインのボトルネック特定とデバッグを可能にする。
LLM Knowledge Editing（知識編集）とは、大規模言語モデルが保持する事実知識を再学習なしに局所的に書き換える技術群の総称である。モデルパラメータの特定領域を直接操作することで、誤った知識の修正や新情報の追加をファインチューニングより低コストで実現する。
LLM（大規模言語モデル）とナレッジグラフ（KG）を組み合わせ、構造化された知識と自然言語処理能力を統合する技術領域。LLMの生成能力とKGの事実整合性を相互補完することで、ハルシネーション抑制や推論精度の向上を実現する。
ニューラルネットワーク（LLM）と記号的AI（論理・規則・制約）を統合するパラダイム。LLMの流暢な言語理解と形式論理の確実性・説明可能性を組み合わせて複雑推論を実現する。
LLMの出力品質を人間の評価者が直接判定する手法。Likertスケール評価・ペアワイズ比較・Chatbot ArenaのEloレーティングなどの方式がある。自動指標では捕捉しきれない流暢性・有用性・安全性を評価できるが、コストが高く再現性の確保が課題。
活性化関数とは、ニューラルネットワークの各層で入力信号に非線形変換を加える数学的関数であり、LLM（大規模言語モデル）では GELU・SwiGLU・GeGLU などが主流として採用され、モデルの表現力と学習効率を決定づける要素である。
LLMへの入力構築から推論実行・出力解析・後処理までを一連のステージとして構造化し、再利用可能な処理フローを構築する設計パターン。
LLMプロバイダが提供する非同期バッチ処理用API。リアルタイム性を犠牲にする代わりに大幅な割引料金（通常50%OFF）で大量のリクエストを処理できる。OpenAI Batch APIやAnthropic Message Batchesが代表的。