Chain-of-Thought推論（テスト時計算）（チェインオブソートスイロン）
LLMが最終回答に至る前に中間的な推論ステップを逐次生成する手法。テスト時計算の最も基本的かつ広く普及したアプローチであり、OpenAI o1やDeepSeek R1の中核技術である。
Chain-of-Thought推論とは
Chain-of-Thought（CoT）推論とは、LLMが問題を解く際に「思考の連鎖」として中間ステップを明示的に生成し、段階的に最終回答へ到達する推論手法である。2022年のGoogle Brainの研究（Wei et al.）で初めて体系化され、2024年以降はOpenAI o1やDeepSeek R1の内部推論エンジンとしてテスト時計算の基盤技術に昇格した。
CoTの発展段階
| 世代 | 時期 | 手法 | 代表例 |
|---|---|---|---|
| 第1世代 | 2022年 | Few-shot CoTプロンプティング | Wei et al. (Google Brain) |
| 第2世代 | 2023年 | Zero-shot CoT（「ステップバイステップで考えて」） | Kojima et al. |
| 第3世代 | 2024年 | 学習済みCoT（推論トレーニング） | OpenAI o1、DeepSeek R1 |
| 第4世代 | 2025〜26年 | 適応的CoT（動的推論深度） | o3-mini、Gemini 2.0 Flash Thinking |
プロンプトCoT vs 学習済みCoT
従来のプロンプトベースCoTと、テスト時計算における学習済みCoTの違いを明確化する。
- プロンプトCoT: ユーザーがプロンプトに「ステップバイステップで考えて」と指示を追加。モデル自体は変更されず、プロンプトエンジニアリングの範疇。改善幅は10〜30%程度
- 学習済みCoT: 強化学習（RLHF/GRPO）により推論ステップの生成をモデルに内在化。OpenAI o1では数千〜数万トークンの内部思考が自動生成される。改善幅は50〜200%（数学タスク）
- 蒸留CoT: 大規模推論モデルの思考過程を教師データとして小モデルを学習。DeepSeek R1-Distill-Qwen-7Bが代表例で、学習済みCoTの70〜85%の性能を1/100のモデルサイズで達成
内部思考の構造
学習済みCoTモデルが生成する内部思考の典型的な構造を示す。
- 問題分解: 複雑な問題をサブ問題に分割。「まず条件Aを整理し、次にBとの関係を考え...」
- 仮説生成: 複数の解法候補を列挙。「アプローチ1: 直接計算、アプローチ2: 漸化式、アプローチ3: 対称性利用」
- 検証ステップ: 各ステップの結果を自己チェック。「ここで計算を確認すると...値が一致するので正しい」
- バックトラック: 行き詰まった場合に前のステップに戻る。「このアプローチでは解けない。別の方法を試す」
- 最終統合: サブ問題の結果を統合して最終回答を構成
性能ベンチマーク比較
CoTの有無による性能差を主要ベンチマークで比較する。
| ベンチマーク | 標準推論（GPT-4） | CoTプロンプト（GPT-4） | 学習済みCoT（o1） | 学習済みCoT（o3） |
|---|---|---|---|---|
| GSM8K（小学算数） | 92.0% | 95.5% | 97.8% | 99.2% |
| MATH（大学数学） | 52.9% | 68.4% | 94.8% | 96.7% |
| AIME 2024 | 12.0% | 26.7% | 83.3% | 96.7% |
| HumanEval（コード） | 67.0% | 74.4% | 92.4% | 97.2% |
| GPQA Diamond（科学） | 53.6% | 58.2% | 78.0% | 87.7% |
| ARC-AGI（推論） | 5.0% | 9.0% | 32.0% | 87.5% |
CoTの制約と課題
- レイテンシ増大: 内部思考トークンの生成に数秒〜数十秒を要する。リアルタイム応答が求められるチャットボットでは問題になる
- コスト増加: 思考トークンも課金対象。OpenAI o1では1回の応答で数万トークンの思考が発生し、通常のGPT-4応答の10〜50倍のコスト
- 思考の不透明性: OpenAI o1/o3は内部思考をユーザーに非公開。セーフティ上の理由とされるが、デバッグや検証が困難
- タスク適合性: 単純な事実検索（「東京の人口は？」）では不要で、逆にレイテンシとコストのデメリットだけが発生
- 忠実性問題: 表示されるCoTが実際の推論過程を正確に反映していない場合がある（Faithfulness問題）
2025〜2026年の最新動向
- 隠れ思考トークン圧縮（2025年）: 内部思考トークンを潜在空間で圧縮し、テキスト化せずに推論を進める研究。Coconut（Chain of Continuous Thought）が代表例で、思考トークン数を90%削減しつつ性能の95%を維持
- マルチモーダルCoT（2025年）: 画像や表を含む問題で、視覚的推論ステップをCoTに組み込む。Gemini 2.0 Pro Thinkingが図形問題で人間専門家を上回る精度を達成
- 並列CoT（2026年）: 複数の推論パスを並列に生成し、投票や報酬モデルで最良を選択。レイテンシを維持しつつ精度を向上
- 適応的CoT深度（2026年）: 問題の難易度に応じて思考トークン数を動的に調整。簡単な質問は100トークン以内、困難な問題は10,000トークン以上
よくある質問（FAQ）
Q1: プロンプトに「ステップバイステップで考えて」と書くだけでo1と同じ効果が得られるか？ A: 得られない。プロンプトCoTは改善幅が10〜30%だが、o1の学習済みCoTは50〜200%の改善を達成する。学習済みCoTはモデルパラメータ自体が推論プロセスに最適化されており、プロンプト指示とは本質的に異なる。
Q2: CoTの思考トークンをユーザーに公開しているモデルはあるか？ A: DeepSeek R1はオープンソースのため内部思考が完全に閲覧可能。Anthropic Claude 3.5 OpusのExtended ThinkingもAPIで思考トークンを返却する。一方、OpenAI o1/o3は安全性を理由に思考を非公開としている。
Q3: CoTは日本語でも英語と同等の効果があるか？ A: 主要な推論モデルは英語で学習されているため、日本語では性能が5〜15%低下する傾向がある。ただし、DeepSeek R1は中国語と英語の多言語学習により、日本語でも比較的高い推論性能を維持している。
まとめ
- Chain-of-Thought推論はテスト時計算の最も基本的なアプローチ
- プロンプトCoT（改善10〜30%）と学習済みCoT（改善50〜200%）で効果が大きく異なる
- 数学・コード・論理推論で特に効果が大きく、AIMEで83〜97%の正答率を達成
- レイテンシとコストの増大が主要課題で、適応的深度制御が解決策
- 思考トークン圧縮や並列CoTなど効率化技術が2025〜2026年に急速に進展