ハルシネーション軽減（ハルシネーションケイゲン）

ハルシネーション軽減とは

ハルシネーション軽減（Hallucination Mitigation）とは、大規模言語モデル（LLM）が生成するテキストに含まれる「幻覚」――事実と異なる内容、根拠のない主張、存在しない引用など――を検出・抑制・修正するための技術・手法の総称である。ChatGPTをはじめとするLLMが実用化された2022年以降、ハルシネーションは最も重大な信頼性課題の一つとして認識され、研究と実装の両面で急速に進展した。

ハルシネーションの分類

ハルシネーションは大きく2種類に分類される。

内因性ハルシネーション（Intrinsic Hallucination）：入力コンテキストと矛盾する内容を生成するケース。要約タスクで原文にない情報を追加するなど。

外因性ハルシネーション（Extrinsic Hallucination）：入力と矛盾はしないが、外部世界の事実と一致しない内容を生成するケース。架空の論文引用や存在しないAPIメソッドの記述など。

主要な軽減アプローチ

1. 検索補強型生成（RAG）

最も広く採用される手法。LLMが回答を生成する前に検索エンジンやベクトルDBから関連文書を取得し、それをコンテキストとして提供することで、モデルの内部知識への依存を低減する。ただしRAGも「検索ドキュメントに忠実すぎて古い情報を引用する」問題を持つため、検索品質の管理が重要。

2. SelfCheckGPT

Bansal et al. (2023) が提案。同じプロンプトに対して複数回サンプリングし、出力間の意味的一貫性をスコアリングする手法。一貫性が低いClaimほど幻覚の可能性が高いとみなす。外部知識ベースが不要なため、任意のLLMに適用可能。

3. Chain-of-Verification（CoVe）

Meta AI（2023）が提案。4ステップの自己検証パイプライン：①初期回答生成 → ②検証質問の策定 → ③質問への独立回答 → ④修正回答の生成。初期回答から独立して検証を行うことでバイアスを低減。

4. セマンティックエントロピー

Oxford大学（2024, Nature）が提案。意味的等価クラスタのエントロピーによりLLMの不確実性を定量化。エントロピーが高いClaimはハルシネーションリスクが高いと判定。

5. Retrieval-Augmented Verification（RAV）

生成後検証アプローチ。LLMが生成した回答内の各Claimを抽出し、それぞれを独立して検索で検証するパイプライン。FActScoring（Min et al., 2023）やALCE（Gao et al., 2023）がこの系統。

評価指標

• FActScore：人物記事などの事実密度の高いテキストで、各Claimの正確性をWikipedia等で検証。
• HELM：Stanford AI Indexが提供する包括的LLMベンチマーク。Factuality項目を含む。
• TruthfulQA：LLMが人間の誤解を模倣する傾向を測定するベンチマーク（817問）。

限界と課題

軽減手法の適用はレイテンシとコストを増加させる。RAGは検索品質に依存し、SelfCheckGPTは多数回サンプリングが必要。また「確信を持ったハルシネーション（confident hallucination）」は検出が難しく、特に専門知識領域では現状の手法でも見逃しが生じる。

2025年の動向

2025年時点では、推論モデル（o1/o3/R1系）が内部Chain-of-Thoughtで事実確認を行うアーキテクチャが注目を集めており、外部検証パイプラインと内部推論の統合が次世代の方向性とされている。また、Citationを強制的に付与させるGrounded Generation（Bing Chat等）も実用化が進んでいる。