2990件の用語
Graph RAGにおけるエンティティ抽出とは、テキストコーパスの各チャンクからLLMを用いて固有表現（人物・組織・技術・概念等）とそれらの間の関係を構造化データとして抽出するプロセスである。NERベースの手法とLLMベースの手法を組み合わせ、共参照解決やエンティティ正規化を通じてグラフ構築の基盤を形成する。
Graph RAGにおけるコミュニティ検出とは、構築されたナレッジグラフに対してLeidenアルゴリズムを適用し、密に接続されたノード群（コミュニティ）を自動的に同定するプロセスである。検出されたコミュニティに対して階層的なサマリが生成され、Global Searchの基盤となる。
Graph RAGにおけるナレッジグラフ構築とは、テキストコーパスからLLMを用いてエンティティ（人物・組織・概念・技術等）とそれらの間の関係を抽出し、ノードとエッジで構成されるグラフ構造として体系化するプロセスである。抽出されたグラフはコミュニティ検出やクエリ時の情報検索の基盤となる。
Graph RAGとベクトルRAGの比較は、RAG（検索拡張生成）アーキテクチャにおける2つの主要アプローチの選択に関わる重要な設計判断である。ベクトルRAGはテキストチャンクの埋め込みベクトル類似度による検索、Graph RAGはナレッジグラフ構造を活用した検索を行い、それぞれ得意とするクエリタイプが異なる。実運用ではハイブリッドアプローチが推奨される。
Microsoft 2024年 RAG 改良手法。LLM でドキュメント群を知識グラフ化→グラフ走査でグローバル理解クエリ対応
LLMのトークンサンプリング時にBNF/EBNF等の形式文法を使い、文法的に無効なトークンのlogitを-∞にマスクして構造化テキストのみを生成する推論技術。
Grammar制約（Guided Decoding）とは、LLMのトークン生成時に文脈自由文法（CFG）・正規表現・GBNFなどの形式文法でデコーディングを制約し、出力が指定した構造に100%準拠することを保証する技術である。
2021年Google発表GLaM paper (Du et al.)・Industry-leading Generalist Language Model MoE + Industry-leading 1.2T parameters + Industry-leading Google AI MoE research + Industry-leading GLaM Google MoE flagship。
2023年Krea Inc公開Krea AI。Pro 業界Pro Mainstream Real-time AI Image生成 Top + Pro 米国SF Krea + Pro Diego Rodriguez Pro Co-founder + Pro Real-time Generation + Pro Enhance/Upscale + Pro Krea Video + Pro $30M Series B + 累計2023-2026年3年Heritage継承代表機。
LLMが各ステップで最も確率の高いトークンを常に選択するデコーディング手法。出力が決定論的で再現性があるが、局所最適に陥りやすく繰り返しや不自然な文章が生成されるリスクがある。
LLMのテキスト生成において、各ステップで語彙全体の確率分布から最も確率の高いトークンを選択する最もシンプルなデコーディング手法。計算コストが最小だが、生成テキストの多様性がなく、繰り返しが発生しやすい。
2021年ClipDrop公開Cleanup.pictures。Pro 業界Pro Mainstream Object Removal Top + Pro LaMa Inpainting Model基盤 + Pro Cyril Diagne Pro CEO主導 + Pro 元Snapchat AR Lab + 2023-03 Pro Stability AI買収Pro Famous + 2025-Pro Cleanup 2.0 + 累計2020-2025年5年Heritage。
LLMウォーターマーキングにおいて語彙をGreen List（透かしトークン）とRed List（非透かしトークン）に分割し、Green Listからの選択確率を操作する基本的な分割メカニズム。
Kirchenbauer et al. 2023 が提案したLLMテキストウォーターマークの基本方式。直前トークンと秘密鍵のハッシュで語彙をグリーン（優先）とレッド（非優先）の2群に分割し、グリーントークンの選択確率を引き上げることで統計的な透かし信号を埋め込む。
LLMが同じトークンや表現を繰り返し生成するのを抑制するデコーディングパラメータ。過去に生成したトークンのロジットをスケーリングして再選択確率を下げる。presence penalty・frequency penaltyとも関連。
LLMの応答に対して批評（Critique）を生成しその批評に基づいてリワードスコアを計算するリワードモデル手法。Constitutional AIのCRITIQUE-REVISEループや自己批評強化学習で活用される。
バッチサイズを拡大しても学習速度（収束に必要な計算量）の改善が頭打ちになる閾値。McCandlish et al.（2018）が理論化し、勾配のシグナル対ノイズ比（SNR）から導出される。クリティカルバッチサイズ以下では計算量がほぼ線形にスケールし、それを超えると追加のバッチ拡大は計算資源の浪費となるため、LLM の分散学習設計における最重要指標の一つである。
LLMが外部ツール（コード実行・検索・計算機）を呼び出してその結果をフィードバックとし、自分の出力を段階的に修正するフレームワーク。「ツールの目」で誤りを検出し修正する。
電子カルテ（EHR）テキストに特化してBERTを継続事前学習したNLPモデル。臨床ノート・退院サマリー・看護記録などの非構造化医療文書の解析に高精度を発揮する。
Google DeepMindが2024年発表した線形再帰モデル。Gated Linear RecurrenceレイヤーとローカルAttentionを組み合わせたハイブリッドアーキテクチャで、Gemma 2Bと同水準の性能をより効率的に達成。