SELF-DISCOVER フレームワーク(セルフディスカバーフレームワーク)
Google DeepMindが2024年に提案したLLMの推論強化フレームワーク。タスクに適した推論モジュール(批判的思考・分割統治等)を自動選択・組み合わせて推論構造を構築し、GPT-4やPaLM 2の難問正答率を大幅改善した。
SELF-DISCOVER フレームワーク
SELF-DISCOVER(2024, Zhou et al., Google DeepMind)は、LLMが解くべきタスクに対して最適な推論構造を自律的に発見・構築するフレームワークです。
核心的なアイデア
Chain-of-Thought(CoT)は「step by step」という一律の推論スタイルを使いますが、タスクによっては不適切な場合があります。SELF-DISCOVERはタスク固有の推論構造を事前に設計してから解きます。
3フェーズ構成
フェーズ1: SELECT(選択) 39種の推論モジュール候補から、タスクに有用なものを複数選択。
推論モジュール例:
- 批判的思考(Critical Thinking)
- 分割統治(Divide and Conquer)
- 演繹推論(Deductive Reasoning)
- 帰納推論(Inductive Reasoning)
- システム思考(Systems Thinking)
- アナロジー推論(Analogical Reasoning)
(計39種)
フェーズ2: ADAPT(適応) 選択したモジュールをタスク固有に言語適応。一般的な定義 → タスク向けの具体的な指示に変換。
フェーズ3: IMPLEMENT(実装) 適応したモジュールを組み合わせた推論計画(JSON形式)を生成し、その計画に沿って推論・回答。
推論計画の例
{
"step1": "問題をサブ問題に分解(分割統治)",
"step2": "各サブ問題に演繹推論を適用",
"step3": "矛盾がないか批判的思考で検証",
"step4": "アナロジーで直感チェック",
"final": "統合して最終回答"
}
ベンチマーク結果
| ベンチマーク | CoT-SC | SELF-DISCOVER | 改善幅 |
|---|---|---|---|
| BigBench Hard | 65.7 | 81.0 | +15.3 |
| MATH | 63.2 | 73.1 | +9.9 |
| ARC Challenge | 85.1 | 91.8 | +6.7 |
| 算術推論平均 | 72.4 | 83.9 | +11.5 |
GPT-4での実験でChain-of-Thoughtより最大32%改善(BigBench Hard特定カテゴリ)。
GPT-4o / Claude 3への適用
SELF-DISCOVERはAPIレベルで実装可能です。ローカルLLMでも7Bクラスのモデルで推論構造の選択フェーズを実行できます。フェーズ1-2はGPT-4o/Claude 3.5で実行し、フェーズ3はローカルLlama 3で実行するハイブリッドも有効です。
まとめ
SELF-DISCOVERはLLMに「どう考えるかを考えさせる」メタ認知的アプローチです。タスク固有の推論構造を自動発見することで、汎用CoTを大幅に上回る性能を実現しています。