LLMハルシネーション緩和（エルエルエムハルシネーションカンワ）
大規模言語モデル（LLM）が事実と異なる情報を生成する「ハルシネーション」を抑制・軽減するための技術群。RAG・ファインチューニング・プロンプト設計・出力検証などを組み合わせて対処する。
LLMハルシネーション緩和とは
LLMハルシネーション緩和（Hallucination Mitigation）とは、大規模言語モデルが事実に反する情報や存在しないデータを自信を持って生成してしまう現象を抑制するための技術的アプローチの総称である。2025〜2026年にかけてGPT-4o、Claude 4、Gemini 2.5 Proなどの最新モデルでも完全な解決には至っておらず、実用システムでは多層的な緩和戦略が不可欠となっている。
ハルシネーションの分類と発生メカニズム
ハルシネーションは大きく3種類に分類される。
- 事実性ハルシネーション（Factual Hallucination）: 実在しない事実や数値を生成する。例えば架空の論文タイトル・著者名・統計データの捏造
- 忠実性ハルシネーション（Faithfulness Hallucination）: 入力コンテキストの内容と矛盾する出力を生成する。要約タスクで元文書にない情報を追加するケース
- 指示逸脱ハルシネーション（Instruction Hallucination）: ユーザーの指示と異なる形式・内容で回答する
発生メカニズムとしては、トレーニングデータの偏り、デコーディング時の確率的サンプリング、長文コンテキストでの注意散漫（Lost in the Middle問題）、モデルの知識カットオフ以降の情報への対応などが挙げられる。
主要な緩和技術
| 技術 | 手法 | 効果 | 代表的ツール |
|---|---|---|---|
| RAG（検索拡張生成） | 外部知識ベースから関連文書を検索し、コンテキストに注入 | 事実性ハルシネーションを40〜60%削減 | LangChain, LlamaIndex, Haystack |
| Self-RAG | モデル自身が検索の必要性を判断し、出力の事実性を自己検証 | 従来RAGより15〜20%精度向上 | Self-RAG（Akari et al., 2023） |
| Chain-of-Verification (CoVe) | 生成後に検証質問を自動生成し、矛盾を検出・修正 | 事実性エラーを50%以上削減 | Meta Research 発表手法 |
| Retrieval-Augmented Fine-Tuning (RAFT) | 検索結果の活用方法をファインチューニングで学習 | ドメイン特化で事実性90%以上達成 | Gorilla LLM, Microsoft Research |
| Constitutional AI | 自己批判と修正のループで安全性・事実性を担保 | Claude 4 シリーズの基盤技術 | Anthropic |
プロンプトエンジニアリングによる緩和
プロンプト設計段階での緩和策は、コスト0で即座に適用できる最も手軽なアプローチである。
- 明示的な制約指示: 「わからない場合は「わかりません」と答えてください」の明記
- ソース要求: 「情報源のURLまたは文献名を必ず付記してください」
- Chain-of-Thought（CoT）: 思考過程を段階的に出力させることで論理的整合性を向上
- Few-Shot Examples: 正確な回答例を提示し、形式と正確性の基準を示す
- Temperature制御: temperature を 0.0〜0.3 に設定し、創造的だが不正確な出力を抑制
- System Prompt での役割定義: 「あなたは医療情報の専門家です。エビデンスに基づいた回答のみを行います」のような制約
出力検証・フィルタリング技術
生成後の検証は最後の防壁として機能する。
- NLI（自然言語推論）ベース検証: 入力と出力の矛盾をentailment/contradiction分類で検出。TRUE（Honovich et al., 2022）が代表的
- SelfCheckGPT: 同一プロンプトで複数回生成し、出力間の一致度で事実性を推定。外部知識不要
- FActScore: 生成テキストを原子的事実に分解し、各事実のWikipedia等での検証可能性をスコア化
- Vectara HHEM: Hallucination Evaluation Model。要約の忠実性を0〜1スコアで評価
- GPT-4/Claude Judge: 上位モデルを審判として使い、下位モデルの出力を検証するLLM-as-Judge手法
2025〜2026年の最新動向
- OpenAI o3/o4-mini: 推論時間スケーリング（Inference-time Compute）により、回答前に内部で検証ステップを実行。ハルシネーション率がGPT-4oの約半分に
- Google Gemini 2.5 Pro: Google検索との統合（Grounding）により、リアルタイム情報の事実性を大幅改善
- Anthropic Claude 4 Opus: Constitutional AIの発展形により、事実性と安全性のバランスを高度に最適化
- Meta Llama 4 Scout: 10Mトークンコンテキストでも忠実性を維持するMixture-of-Experts構造
- 業界標準化: NIST AI 600-1（AI RMF Generative AI Profile）がハルシネーションリスク管理のフレームワークを提供
よくある質問（FAQ）
Q1: ハルシネーションを完全にゼロにすることは可能ですか？ A: 現時点では不可能です。LLMは確率的生成モデルであり、構造的にハルシネーションのリスクを内包しています。RAG・検証・プロンプト設計の多層防御で実用上許容できるレベルまで低減するのが現実的なアプローチです。
Q2: RAGを導入すればハルシネーションは解決しますか？ A: RAGは事実性ハルシネーションに対して有効ですが、万能ではありません。検索結果の品質が低い場合や、モデルが検索結果を無視して自身の知識で回答する場合があります。RAG + 出力検証の組み合わせが推奨されます。
Q3: ハルシネーション検出の精度はどの程度ですか？ A: SelfCheckGPTはBio分野で AUC 0.83、FActScoreは人物伝記で精度87%を達成しています。ただしドメインや言語により精度は変動するため、ドメイン特化のキャリブレーションが重要です。
Q4: 日本語でのハルシネーション対策に固有の課題はありますか？ A: 日本語はトレーニングデータが英語に比べ少ないため、事実性ハルシネーションが発生しやすい傾向があります。日本語特化のRAGナレッジベース構築と、日本語NLIモデル（JNLIデータセット等）による検証が有効です。
まとめ
- ハルシネーションはLLMの構造的課題であり、完全排除は現時点で不可能
- RAG・CoVe・Constitutional AIなどの多層的緩和戦略が必須
- プロンプト設計（Temperature制御・CoT・明示的制約）はコスト0で即時適用可能
- SelfCheckGPT・FActScoreなどの事後検証で最終防壁を構築
- 2026年はo3/Gemini 2.5/Claude 4の推論時検証機能により大幅改善が進行中