Step-Back Prompting（ステップバックプロンプティング）

Step-Back Promptingとは

Step-Back Promptingは2023年にGoogle DeepMindのZheng et al.が提案したプロンプトエンジニアリング手法。「一歩引いて考える」という意味が名前に込められており、LLMに具体的な問題への直接回答を求める前に、問題が属する抽象的な概念・原理・フレームワークを先に考えさせる。

人間の専門家が問題を解くときの思考プロセスをモデル化しており、医師が「この症状はどの疾患カテゴリか？」と分類してから診断を行うように、LLMにも同様の抽象化ステップを踏ませる。

基本的な仕組み

通常のプロンプト: 「温度1000Kで体積0.001m³の理想気体の圧力は？」→ LLMが直接計算しようとして誤る場合がある。

Step-Back Promptingの2段階アプローチ:

• Step 1（抽象化）: 「この問題に関連する物理法則は？」→ LLM: 「理想気体の状態方程式 PV = nRT が適用されます」
• Step 2（具体的回答）: 「上記の法則を使って答えてください」→ LLM: 「P = nRT/V = 1×8.314×1000/0.001 = 8,314,000 Pa」

LangChainでの実装

LangChainでのStep-Back実装は2段階チェーンで構成する。Step 1チェーン: 抽象化プロンプト（「この質問に答えるために必要な基本的な原理・概念は何ですか？」）でLLMを呼び出して概念を取得。Step 2チェーン: 質問 + Step 1の結果を組み合わせて最終回答を生成する。

ベンチマーク結果

Zheng et al.の論文での測定（PaLM-2Lモデル）:

• MMLU物理: 57.1% → 65.0%（+7.9%）
• TimeQA（Easy）: 82.0% → 93.0%（+11.0%）
• MuSiQue: 44.0% → 66.3%（+22.3%）

特に多ステップ推論や専門的知識が必要な問題で大幅な改善が見られる。

他の推論手法との比較

Chain of Thoughtはステップバイステップ推論で数学・論理に強い。Tree of Thoughtsは複数推論パス探索で組み合わせ問題に強い。ReActはツール使用+推論で情報検索タスクに強い。Step-Backは抽象化→具体化アプローチで専門知識・概念理解タスクに強い。

実用的な適用ガイド

最も効果が高い場面: 科学・数学の問題（物理・化学・生物学）、歴史的事件の因果関係分析、医療・法律など専門知識ドメインの質問、複数の概念が絡み合う複合問題。

実装のヒント: Step 1の抽象化プロンプトを「〜の一般的な原理は？」「〜が属するカテゴリは？」の形で設計する。Few-shot例を追加すると抽象化の質が向上する。RAGと組み合わせ、抽象化結果で知識ベース検索する応用も有効。

Google以外での採用

Step-Back PromptingはLangChainのプロンプトハブに公式テンプレートとして登録されており、RAGパイプラインの前処理ステップとして広く採用されている。検索クエリ最適化への応用（抽象化されたクエリで関連文書をより広く取得）も実用化されている。