AI・機械学習
中級
Self-Consistency（自己整合性デコーディング）（セルフコンシステンシー）
Chain-of-Thoughtを複数回生成し多数決で最終答えを決定するデコーディング戦略。Wang et al.（2022）提唱で、単一CoTより一貫して高精度を達成。GSM8Kで+17ptの改善を報告。
0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
self-consistency
majority-voting
chain-of-thought
decoding-strategy
llm
Self-Consistency（自己整合性デコーディング）とは
Self-ConsistencyはGoogle BrainのXuezhi Wang, Jason Wei et al.（2022）が提唱したCoT拡張のデコーディング戦略。「正しい問題には様々な推論パスが存在するが、最終的に同じ答えに収束する」という直観に基づく。
通常の単一CoT:
問題 → CoT推論（1回） → 答え（誤りを含む場合あり）
Self-Consistency:
問題 → CoT推論×20回（異なる推論パス）
→ 答え1: 42, 答え2: 42, 答え3: 41, 答え4: 42...
→ 多数決 → 最終答え: 42
ベンチマーク結果（Wang et al. 2022）
| ベンチマーク | CoT（greedy） | Self-Consistency（n=40） | 改善 |
|---|---|---|---|
| GSM8K | 56.5% | 74.4% | +17.9pt |
| SVAMP | 68.9% | 82.7% | +13.8pt |
| AQuA | 35.3% | 47.2% | +11.9pt |
| StrategyQA | 65.4% | 72.3% | +6.9pt |
| ANLI-R1 | 58.7% | 63.8% | +5.1pt |
GSM8Kでの+17ptは当時最高精度を達成。
サンプル数とコストの関係
| サンプル数 | 精度（GSM8K） | コスト（相対比） |
|---|---|---|
| 1（standard） | 56.5% | 1× |
| 5 | 68.3% | 5× |
| 10 | 71.2% | 10× |
| 20 | 73.5% | 20× |
| 40 | 74.4% | 40× |
5〜10サンプルで最大改善の大半を達成。
Temperatureの設定指針
- temperature = 0.0: グリーディ → 全サンプルが同一（Self-Consistency不可）
- temperature = 0.5〜0.7: 推奨範囲
- temperature = 1.0: 多様性は高いが低品質サンプルが増える
よくある質問（FAQ）
Q1: Self-ConsistencyはGreedyデコーディングより必ず良いですか？ A: 多段推論タスク（算数・論理）では一貫して改善。ただし自由回答型・創作系タスクでは「多数決」が有効でない場合がある。
Q2: GPT-4やClaude 3.5 Sonnetでも効果がありますか？ A: 元論文はPaLM 540Bでの実験だが、GPT-4/Claudeでも効果を確認。大型モデルは単一CoTでも高精度のため改善幅は相対的に小さくなる傾向。
Q3: コスト削減のために何サンプルが最適ですか？ A: 精度とコストのトレードオフでは5〜10サンプルが実用的なバランス点。40サンプルと比較して最大改善の90%を達成できる。
まとめ
- 発祥: Google Brain Wang et al. 2022
- 効果: GSM8K +17pt（n=40）
- 実装: 複数回サンプリング+多数決
- コスト: 実用的には5〜10サンプルが最適バランス