AI・機械学習
上級
LLM 抽象推論(エルエルエムちゅうしょうすいろん)
LLMが具体例を超えて一般的なパターンや関係性を認識・適用する能力。アナロジー推論・規則帰納・関係推論などを含み、AGI研究の中核テーマ。
0 回閲覧
0 いいね
2026/6/7 更新
関連タグ
抽象推論
アナロジー
関係推論
IQテスト
Raven行列
LLM 抽象推論
抽象推論(Abstract Reasoning)はLLMの知的能力の中でも最も深い層を測定する概念です。具体的なデータパターンの暗記ではなく、普遍的な規則の発見と応用能力を指します。
抽象推論の種類
1. アナロジー推論(Analogical Reasoning)
- 形式: A:B::C:? (王:女王::男:女)
- 関係性の転移能力を測定
- Word2VecベクトルでA-B≒C-?の計算が有名
2. 帰納的推論(Inductive Reasoning)
- 複数の事例から一般規則を導く
- 「2, 4, 8, 16, ...」のパターン認識
- Few-shot学習の基盤能力
3. 視覚的抽象推論
- Raven's Progressive Matrices(IQテストで有名)
- IQテストスコアとLLMの抽象推論能力の相関研究
- ARC-AGIはこのカテゴリの最高峰
LLMの抽象推論能力の評価
主要研究成果(2024-2025年):
| 研究 | モデル | タスク | 結果 |
|---|---|---|---|
| Mirchandani et al. (2023) | GPT-4 | 1Dパターン補完 | ~90%(人間並み) |
| Webb et al. (2023) | GPT-3 | アナロジー推論 | ゼロショットで人間超え |
| Mitchell (2024) | GPT-4o | ARC-AGI | ~40%(人間85%) |
| OpenAI (2025) | o3 | ARC-AGI | ~88% |
スケーリング則の限界
抽象推論はモデルサイズ(パラメータ数)を増やしても単純に改善しません。2024年の研究では、GPT-4(1.8T相当)がGPT-3(175B)より抽象推論で劇的に優れているわけではないケースが多数報告されています。
改善手法
テスト時計算(Test-Time Compute)の増加:
- Chain-of-Thought(CoT)で推論ステップを明示化
- Self-Consistency(複数回答の多数決)
- o1/o3系モデルの「long thinking」アプローチ
プログラム誘導推論:
- LLMにコードを生成させ、実行結果で推論する
- PAL(Program-Aided Language Models)
- ARC-AGIでKaggle優勝チームが採用したアプローチ
自作PC活用
抽象推論の評価はローカルLLMで実行可能です。lm-evaluation-harness経由でアナロジー推論タスクを実行し、RTX 4090搭載の自作PCで各種モデル(Llama 3.1 70B、Qwen 2.5 72B、Gemma 3 27B)の性能を比較できます。
まとめ
抽象推論はLLMの「真の知性」を測る最も本質的な能力の1つです。スケーリングより推論戦略(CoT・test-time compute)が重要であることが明らかになりつつあります。