LLMコンファビュレーション（エルエルエムコンファビュレーション）
LLMが自信を持って事実と異なる情報を生成する現象を、神経心理学の「作話（confabulation）」から借用した用語。ハルシネーションとほぼ同義だが、モデルが意図的に嘘をついているのではなく構造的に発生する点を強調する。
LLMコンファビュレーションとは
LLMコンファビュレーション（Confabulation）とは、大規模言語モデルが事実と異なる情報を自信を持って生成する現象を指す用語である。もともと神経心理学で「作話」と呼ばれる症状（記憶障害の患者が記憶の空白を無意識に埋め合わせる現象）から借用された概念で、LLMの振る舞いとの構造的類似性から2023年以降に研究者の間で使用が広まった。「ハルシネーション」とほぼ同義で使用されるが、モデルが意図的に嘘をついているわけではなく、統計的パターンに基づいて最もありそうな続きを生成した結果として発生するという機構的な側面を強調する。
ハルシネーションとの用語的区別
| 用語 | ニュアンス | 使用者 | 含意 |
|---|---|---|---|
| ハルシネーション | 幻覚（存在しないものが見える） | 一般的・業界標準 | モデルが「見ている」かのような比喩 |
| コンファビュレーション | 作話（記憶の空白を埋める） | 研究者・神経科学寄り | 構造的・無意識的な現象 |
| ファブリケーション | 捏造 | ジャーナリズム | 意図的な印象を与えがち |
| グラウンディング失敗 | 接地の失敗 | エンジニアリング | 技術的・解決指向 |
2024年にYann LeCun（Meta Chief AI Scientist）が「ハルシネーションという用語はLLMに知覚（perception）があるかのような誤解を招く。コンファビュレーションの方が正確」と発言し、用語の再考が議論されている。ただし2026年現在、業界標準としてはハルシネーションが依然として主流である。
コンファビュレーションの発生メカニズム
1. 次トークン予測の構造的限界
LLMは次のトークンを予測する確率モデルであり、「正しいか」ではなく「もっともらしいか」で出力を選択する。高確率なトークン列が事実と一致するとは限らない。
2. 知識の不均一な分布
トレーニングデータ中で頻出するトピック（英語Wikipedia、Stack Overflow等）では事実性が高いが、低頻度トピック（マイナーな歴史的事実、特定地域のローカル情報）ではコンファビュレーションが発生しやすい。
3. パターン補完バイアス
モデルが学習した統計的パターンに基づいて「ありそうな」情報を生成する。例えば「〇〇大学教授の△△は著書『□□』で…」というパターンに沿って架空の著書名を生成してしまう。
4. Sycophancy（迎合）
ユーザーの期待や前提に合わせて、事実と異なっていても肯定的な回答を生成する傾向。RLHF（人間フィードバックによる強化学習）の副作用として発生する。
コンファビュレーションの類型
内因性コンファビュレーション
プロンプトに外部コンテキストがない状態で、モデルの内部知識のみに基づいて発生する。
- 架空の引用: 存在しない論文・書籍を引用する（例: 「Smith et al., 2023, Nature」で架空論文）
- 数値の捏造: 統計データや価格を「それっぽい」数値で埋める
- 時系列の混同: 異なる時代の出来事を混合する
外因性コンファビュレーション
RAG等で外部コンテキストが与えられているにもかかわらず、コンテキストの内容と矛盾する出力を生成する。
- コンテキスト無視: 検索結果を無視して自身の知識で回答する
- コンテキスト歪曲: 検索結果の一部を取り込むが、細部を変更・誤解釈する
- コンテキスト過剰補完: 検索結果にない情報を補足として追加する
検出と測定
自己一貫性検証（Self-Consistency Check）
同一質問に対してTemperature > 0で複数回生成し、回答間の一致度を測定する。一致度が低い部分はコンファビュレーションの可能性が高い。SelfCheckGPTはこの原理に基づく。
不確実性推定
- トークンレベルエントロピー: 各トークンの生成確率のエントロピーが高い箇所はコンファビュレーションリスクが高い
- Semantic Entropy（Kuhn et al., 2023）: 意味レベルでの不確実性を測定。同じ意味の回答をクラスタリングし、クラスタ間のエントロピーを算出
- P(True): モデル自身に「この回答は正しいですか？」と問い、確信度を取得
外部知識ベース照合
FActScore、SAFE等のベンチマーク手法で、生成テキストをWikipedia等と照合する。
緩和戦略
- Retrieval-Augmented Generation: 外部知識で接地し、内因性コンファビュレーションを抑制
- Chain-of-Thought + 自己検証: 段階的推論 + 各ステップの検証で論理的整合性を向上
- Abstention（棄権）: 「わかりません」と回答する能力をRLHFで強化
- Calibration Training: モデルの確信度と実際の正答率を校正する追加学習
- Constitutional AI: 自己批判ループで事実性を自己改善（Anthropic Claude）
業界での認知と用語の変遷
- 2022年: ChatGPTの登場で「ハルシネーション」が一般用語に
- 2023年: 研究コミュニティでコンファビュレーションの用語が提唱される
- 2024年: Yann LeCunの発言で用語議論が活発化。EU AI Actでは「ハルシネーション」を公式文書で使用
- 2025年: NIST AI 600-1が「hallucination/confabulation」を併記。ISO/IEC 42001でも言及
- 2026年: 学術論文では両方が使用されるが、工業界・メディアではハルシネーションが標準
よくある質問（FAQ）
Q1: コンファビュレーションとハルシネーションは実質的に同じですか？ A: 現象としてはほぼ同じですが、用語的ニュアンスが異なります。コンファビュレーションは「構造的・無意識的に記憶の空白を埋める」という神経科学的類推を含み、モデルに意図がないことを明確にします。学術文脈ではより正確とされますが、業界標準はハルシネーションです。
Q2: なぜLLMはコンファビュレーションを避けられないのですか？ A: LLMは次トークン予測モデルであり、「正しさ」ではなく「もっともらしさ」で出力を選択する構造だからです。事実性の検証機構はモデル内部に組み込まれておらず、外部グラウンディングや検証パイプラインで補完する必要があります。
Q3: コンファビュレーション率が最も低いLLMはどれですか？ A: 2026年時点では、推論時間スケーリングを備えたOpenAI o3とAnthropic Claude 4 Opusが最低率です。ただし測定方法やドメインにより結果は変動するため、自社ユースケースでのベンチマークが不可欠です。
まとめ
- コンファビュレーションは神経心理学由来の用語で、LLMの構造的な誤情報生成を指す
- ハルシネーションとほぼ同義だが、意図性のない構造的現象であることを強調
- 内因性（知識不足）と外因性（コンテキスト無視）の2類型がある
- 自己一貫性検証・不確実性推定・外部照合が主要な検出手段
- 2026年現在、学術的にはコンファビュレーションの使用が増加しているが業界標準はハルシネーション