Zero-shot CoT（ゼロショットシーオーティー）

Zero-shot CoT とは

Zero-shot CoT は、Kojima et al.（2022）が提案した「Let's think step by step」というたった一文をプロンプトに追加するだけで、Few-shot のデモ例なしに LLM の推論能力を引き出す手法である。従来の Few-shot CoT では問題ごとにデモ例を手作業で用意する必要があったが、Zero-shot CoT はその手間を完全に排除した。

仕組み

Zero-shot CoT は 2 段階のプロンプティングで動作する。

ステップ 1: 推論の生成

Q: [問題文]
A: Let's think step by step.

この「Let's think step by step」がトリガーとなり、モデルは推論ステップを生成する。

ステップ 2: 回答の抽出

[ステップ 1 の出力全体]
Therefore, the answer is

ステップ 1 の出力に続けて「Therefore, the answer is」を追加し、最終回答を抽出する。

有効なトリガーフレーズ

Kojima et al. の実験では複数のトリガーフレーズを比較した。

「Let's think step by step」が最も高い精度を示し、標準プロンプトの 4 倍以上の精度改善を達成した。

Few-shot CoT との比較

実務上の使い分え: 精度が最重要なら Few-shot CoT、多様なタスクに素早く適用するなら Zero-shot CoT。

日本語での Zero-shot CoT

日本語環境では以下のトリガーフレーズが効果的である。

• 「ステップバイステップで考えてください」
• 「順を追って考えましょう」
• 「まず、問題を分解してみましょう」
• 「一つずつ確認していきましょう」

GPT-4 や Claude 3.5 以降のモデルでは日本語トリガーでも英語とほぼ同等の効果が得られるが、Llama 系の多言語対応が弱いモデルでは英語トリガーの方が安定する傾向がある。

限界と注意点

• 小型モデルでの非効果性: 7B 以下のモデルでは Zero-shot CoT が機能しないか、無関係な推論ステップを生成する
• 事実想起タスクでの非効果性: 知識の有無が問われるタスクでは推論ステップが役立たない
• 幻覚の増幅: 推論ステップ中に誤った前提を置くと、それを基に論理的だが誤った結論に至る

2026年の位置づけ

Zero-shot CoT の発見は、LLM の「推論能力は学習済みだが、適切なプロンプトで引き出す必要がある」という洞察をもたらした。現在の o1/o3 や Claude の Extended Thinking は、この考え方をモデルの学習レベルで内在化したものと見ることができる。

FAQ

Q1: Zero-shot CoT と System Prompt での指示は何が違うか？

A1: System Prompt で「常に推論ステップを出力してください」と指定するのも同様の効果がある。ただし Zero-shot CoT はユーザープロンプトに直接付加する手法として研究されており、System Prompt と併用するのが最も効果的。

Q2: Zero-shot CoT はすべての LLM で使えるか？

A2: モデルサイズが十分に大きい（概ね 30B パラメータ以上）か、Instruction Tuning された最新のモデル（GPT-4, Claude 3.5, Llama 3 8B Instruct など）でないと効果が薄い。Base Model（未チューニング）では期待通りに機能しないことが多い。

Q3: API コスト削減のために Zero-shot CoT を省略すべきか？

A3: タスクの複雑さによる。単純な分類・要約ならCoT は不要でコスト削減になる。算術・論理・計画を含むタスクなら CoT の追加コスト（出力トークン増）を払ってでも正答率向上の方がROIが高い。