用語集

LLM（大規模言語モデル）の学習においてバッチサイズを適切に拡大・縮小する手法の総称。バッチサイズは 1 回のパラメータ更新で処理するサンプル数を決定し、学習速度・GPU メモリ使用量・最終的なモデル品質のすべてに影響を与える。GPT-4 クラスの数千億パラメータモデルでは、バッチサイズのスケーリング戦略が学習コストを数十パーセント単位で左右するため、分散学習設計の中核技術となっている。

LLMバッチ処理（バッチ推論）とは、大規模言語モデルに対する複数の推論リクエストをまとめて一括処理する技術である。個別リクエストを逐次処理するオンライン推論と異なり、リクエストをキューに蓄積してGPUの並列計算能力を最大限に活用することで、スループットの大幅な向上とコスト削減を実現する。AnthropicやOpenAIが提供するBatch APIでは最大50%のコスト削減が可能であり、大量データの分類・要約・翻訳などの非リアルタイム処理に広く活用されている。

LLMバッチ処理コスト最適化とは、大規模言語モデルの推論にかかるコストを、バッチ処理技術・量子化・キャッシュ戦略・プロバイダ選定・アーキテクチャ設計などの手法を組み合わせて体系的に削減するアプローチである。クラウドプロバイダのBatch API（Anthropic/OpenAI：50%割引）の活用、セルフホスティングによるGPU利用効率の最大化、プロンプトキャッシュによるトークンコスト削減、モデル量子化によるハードウェア要件の緩和など、複数のレイヤーで最適化を施すことで、LLM運用コストを70〜90%削減することが可能である。

AI幻覚低減手法。RAG(Retrieval Augmented Generation)・Citation/Source linking(Perplexity AI/You.com)・Self-Consistency・Chain-of-Verification(CoVe・Meta)・REALM/Self-RAG・Confidence threshold・Temperature 0-0.3・Structured Output(JSON Schema)・Constrained decoding・Guardrails(NeMo Guardrails・Guardrails AI)・Anthropic Opus 4.7 27% hallucination・GPT-5 25%・Claude reliance 最小化設計・2026年Production必須対策。

大規模言語モデル（LLM）が事実と異なる情報を生成する「ハルシネーション」を抑制・軽減するための技術群。RAG・ファインチューニング・プロンプト設計・出力検証などを組み合わせて対処する。

LLMが事実と異なる情報を自信を持って生成する「幻覚現象」を検出・軽減する技術。RAG統合・自己整合性チェック・FactScore・SelfCheckGPTなど多様なアプローチが存在する。

LLM評価・モニタリングとは、LLMアプリケーションの出力品質をオフライン評価とオンラインモニタリングの両面から定量的に測定・追跡する技術体系である。LLM-as-Judge、RAGAS、回帰テスト、ドリフト検知を組み合わせて品質を継続的に担保する。

LLM（大規模言語モデル）の性能を定量的に測定・比較するための指標群。Perplexity、BLEU、ROUGE、人間評価、LLM-as-a-Judgeなど多角的な手法が存在し、タスクの種類や評価目的に応じて使い分ける。

LLM（大規模言語モデル）の性能を体系的に測定・比較するためのフレームワーク。EleutherAI が開発した lm-evaluation-harness が代表的な実装であり、数百種類のベンチマークを統一インターフェースで実行できる。

LLMの性能を複数のベンチマークタスクで体系的に測定するためのフレームワーク。EleutherAI の lm-evaluation-harness が代表的で、MMLU・HellaSwag・ARC 等の標準ベンチマークを統一インターフェースで実行し、モデル間の公平な比較を可能にする。

LLM出力評価ライブラリ。DeepEval・Ragas・Promptfoo・Arize Phoenix・Langfuse・OpenAI Evals・LiteLLM Eval・Braintrust・Weights & Biases Weave・Inspect AI(UK AISI)が2026年代表、LLM-as-Judge+Metrics(faithfulness/answer-relevancy/context-precision)で品質測定。

事前学習済みの大規模言語モデル（LLM）を特定のタスクやドメインに適応させるため、追加のデータセットで再学習させる技術の総称。Full Fine-tuning、LoRA、QLoRA、Instruction Tuningなど複数の手法が存在する。

LLMファインチューニングパイプラインとは、事前学習済みの大規模言語モデルを特定のタスクやドメインに適応させるための体系的なワークフローである。データ収集・前処理・学習・評価・デプロイの5段階で構成され、Hugging Face TRL・Axolotl・LLaMA-Factory等のフレームワークが主流となっている。

LLMが外部ツールや関数を呼び出す機能。モデルが自然言語の指示を解釈し、定義されたAPI・データベース・計算処理を実行して結果を取得する。

簡単なサンプルの損失を減衰させ、困難なサンプルに学習を集中させる改良型交差エントロピー損失。クラス不均衡問題に効果的。

2023年NUS (National University of Singapore)発表LLM-Pruner paper・Industry-emerging Gradient-Based Structured Pruning paradigm + Industry-leading task-agnostic compression + Industry-leading recovery fine-tuning paradigm + Industry-leading NUS academic AI research foundation。

2023年Ma et al. (Singapore NUS)発表LLM-Pruner・Industry-leading gradient-based structured pruning LLM + Industry-leading LoRA recovery + Industry-leading 20% parameter reduction + Industry-leading LLaMA/Vicuna pruning。

LLMの重みやニューロンのうち重要度が低い要素を除去（枝刈り）してモデルサイズを縮小する圧縮技術。構造化プルーニングと非構造化プルーニングの2種類がある。

2024年成熟LLM-Blender・Industry-leading PairRanker + GenFuser + Industry-leading pairwise comparison ranking + generative fusion + Industry-leading Yale + Zhejiang LLM-Blender Apache 2.0 multi-LLM blending framework 2024。

LLM API Aggregator+Proxy。LiteLLM 1.55 (100+ Provider・OpenAI互換)・PortKey AI Gateway・OpenRouter (300+ Model・¥¥¥/M tok)・Together AI (Open Source LLM)・Replicate (Run anywhere)・Fireworks AI・DeepInfra・Anyscale・Groq Cloud (高速)・Cerebras Inference・SambaNova Cloud・Cloudflare AI Gateway・Vercel AI SDK・¥0 OSS-¥¥¥¥¥/月、2026年OpenRouter+LiteLLM急成長。