AI・機械学習
中級
Step-Back Prompting(ステップバックプロンプティング)
LLMにまず問題の抽象的な原理・概念を確認させてから具体的な問題を解かせるプロンプト技術。Google DeepMind 2023提唱。抽象化→応用の2段階で専門知識の活用精度を改善する。
0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
step-back
prompting
abstraction
llm
stem-reasoning
Step-Back Promptingとは
Step-Back Promptingは2023年にGoogle DeepMindのHuang et al.が提唱した手法。問題に直接取り組む前に、一歩引いて(step back)問題の背後にある抽象的な原理・概念・背景知識を確認するステップを追加する。
通常のプロンプト vs Step-Back
【通常プロンプト】
Q: 温度20℃での金の電気抵抗率を求めよ。
(モデルが直接数値を想起 → 誤りやすい)
【Step-Back Prompting】
Step 1(抽象化):
Q: この問題に関係する物理法則・概念は何ですか?
A: 金属の電気抵抗率、デバイ温度、フェルミ面...
Step 2(具体化):
Q: 上記の知識を参考に、温度20℃での金の電気抵抗率を求めよ。
適用例とプロンプトテンプレート
| タスク種別 | Step 1(抽象化クエリ) |
|---|---|
| 物理・化学 | 「この問題に関係する法則・定数・数式は?」 |
| 歴史 | 「この出来事の政治・経済・文化的背景は?」 |
| プログラミング | 「適用できるアルゴリズム・設計パターンは?」 |
| 法律 | 「適用される法条文・判例の原則は?」 |
ベンチマーク結果(Huang et al. 2023)
| タスク | CoT | Step-Back CoT | 改善 |
|---|---|---|---|
| MMLU物理 | 67.7% | 72.5% | +4.8pt |
| MMLU化学 | 46.7% | 54.7% | +8.0pt |
| TimeQA(時系列QA) | 45.5% | 62.7% | +17.2pt |
| MuSiQue(マルチホップ) | 31.3% | 35.3% | +4.0pt |
特に専門知識が必要なSTEM・歴史系で効果が大きい。
他のCoT手法との位置づけ
| 手法 | アプローチ | 強み |
|---|---|---|
| Zero-Shot CoT | 直線的ステップ展開 | シンプルな算数・論理 |
| Few-shot CoT | 例示からの推論誘導 | タスク固有の精度最大化 |
| Self-Consistency | 多数決でロバスト化 | 算数・論理の信頼性向上 |
| Step-Back | 抽象化→具体化 | 専門知識が必要なSTEM・人文系 |
| ToT | ツリー探索 | 複雑な探索問題 |
よくある質問(FAQ)
Q1: Step-Back Promptingはどのようなモデルにでも効果がありますか? A: 論文はPaLM 2Lで検証。GPT-4/Claude 3.5でも有効性が確認されているが、7B〜13B規模の小型モデルでは抽象化ステップを適切に実行できない場合がある。
Q2: Step-BackとRAGの組み合わせはどのように実装しますか? A: Step 1で生成した「関連原理・概念」をクエリとしてベクトルDBを検索し、取得した文書をStep 2のコンテキストに追加する。LangChainのパイプラインで実装可能。
Q3: Step-Back Promptingは2026年現在でも有効ですか? A: Reasoning Models(o1/o3/Claude Extended Thinking)が内部で同様の抽象化処理を行うため、これらのモデルでは追加効果は限定的。標準モデル(GPT-4o/Claude Sonnet)には引き続き有効。
まとめ
- 発祥: Google DeepMind Huang et al. 2023
- 強み: STEM・専門知識タスクでCoTを上回る
- 仕組み: 抽象化→具体化の2段階で専門知識を活性化
- 2025年: 標準モデルに特に有効(Reasoning Modelsでは効果限定)