選択的生成（LLM）とは？（センタクテキセイセイエルエルエム）意味・特徴をわかりやすく解説

Q: 選択的生成（LLM）とは？

不確実性が高い場合にLLMが回答を拒否・留保し、確信の高い質問にのみ回答する技術。回答精度と網羅率のトレードオフを制御するAbstention（棄権）機能の総称。

選択的生成（Selective Generation / LLM Abstention）

概要

選択的生成（Selective Generation）は、LLMが不確実性スコアや信頼度に基づいて「この質問には答えない・留保する」という判断を行う設計パターンだ。Abstention（棄権）とも呼ばれる。「すべての質問に必ず答えようとする」標準的なLLMの挙動が誤情報・幻覚（Hallucination）を生む問題に対し、「分からないときは分からないと言う」能力を付与する。

なぜ選択的生成が必要か

標準LLMの問題点

Hallucination: 存在しない文献・製品・歴史的事実を自信を持って生成
Overconfidence: 誤回答でも高い確信度スコアを出力
医療・法律リスク: 不確かな情報が実害につながる高リスク領域での利用拡大

棄権のメリット

精度向上: 答えられる質問にのみ集中することで全体的な正解率が向上
信頼性向上: ユーザーが「このAIが答えるなら信頼できる」という確信を持てる
コンプライアンス: EU AI法・NIST AI RMFが高リスク用途での不確実性開示を要件化

主要な実装アプローチ

1. Confidence Thresholding

最もシンプルなアプローチ。確信度スコアが閾値θを下回る場合に棄権。

confidence = llm.get_confidence(question)
if confidence &lt; 0.7:  # θ=0.7
    return "この質問に対して十分な確信がありません。専門家にご相談ください。"
return llm.generate(question)

2. Self-Evaluation Prompting

LLM自身に回答品質を評価させる。

[Prompt例]
質問: {question}
上記の質問に回答できる自信があるか評価してください（0-10）。
自信スコアが7未満なら「回答に十分な確信がありません」と回答してください。

3. Multi-Sample Consistency（MSC）

同じ質問を複数回サンプリングし、回答の一致率を不確実性の代理指標とする。一致率低 → 棄権。

samples = [llm.generate(question, temperature=0.8) for _ in range(10)]
from collections import Counter
majority = Counter(samples).most_common(1)[0]
consistency = majority[1] / 10  # 一致率
if consistency &lt; 0.6:
    return "回答の一貫性が低いため、留保します"

4. Cascading（カスケード）

不確実性が高い質問をより大型モデルへエスカレーション（Haiku → Sonnet → Opus等）。完全棄権の前に段階的に能力を上げるアプローチ。

評価指標

Accuracy-Coverage トレードオフ曲線（AURCC）

棄権率（Coverage）を変化させたときの精度（Accuracy）プロット。曲線下面積（AURCC）が高いほど効率的な選択的生成システム。

Coverage（回答率）	Accuracy（正解率）の例
100%（全問回答）	72%
80%（20%棄権）	81%
60%（40%棄権）	89%
40%（60%棄権）	95%

領域別の設計例

医療診断支援（高リスク）:

棄権率：30-40%（確信スコア < 0.85で棄権）
棄権時メッセージ：「この症状については十分な確信がないため、担当医師にご相談ください」

カスタマーサポートBot（中リスク）:

棄権率：15-20%
棄権時アクション：人間オペレーターへのエスカレーション

一般QAチャットボット（低リスク）:

棄権率：5-10%
棄権時メッセージ：「確信が持てないため、複数の情報源をご確認ください」

2025-2026年の動向

EU AI Act準拠: 2025年2月施行以降、高リスクAIでの不確実性開示と棄権機能が実質義務化
Structured Abstention: 単純な「分かりません」より詳細な理由（「知識カットオフ後」「ドメイン外」「多義的」等）を分類して提示する手法
SLM（Small LM）: Phi-3・Gemma-2等でEdge推論での棄権機能が実装

まとめ

選択的生成は「無理に答えない」という機能を持つことでLLMの実用信頼性を向上させる重要な設計パターン。Confidence Thresholding・Self-Evaluation・Conformal Predictionといった手法でAbstention Rateを制御し、AURCC・RC曲線で精度と網羅率のバランスを評価する。医療・法律・金融の高リスク領域における2026年の必須機能。

選択的生成（LLM）（センタクテキセイセイエルエルエム）