Weak-to-Strong Generalization（ウィーク トゥー ストロング ジェネラリゼーション）
OpenAIが2024年に発表したAI安全研究。弱いモデルが強いモデルをスーパービジョンする設定で、GPT-2がGPT-4を教師あり学習することで強いモデルが弱い教師を超える性能を発揮できるか検証した研究。
Weak-to-Strong Generalization — 弱い教師で強いAIをアラインできるか
Weak-to-Strong Generalization（W2SG）は2024年1月にOpenAIのCollin Burns、Pavel Izmailov、Jan Leike他が発表した研究で、OpenAIの「SuperAlignment」チームの中心的論文。将来のAGI・超知能をどう人間がアライメントするかという問いへの実験的アプローチ。
研究の動機: SuperAlignmentの課題
2023年、OpenAIはSuperAlignment（超人的AIのアライメント）を4年間で解決するという目標を掲げた。その核心的問い:
「人間より賢いAIを、人間はどう正しく訓練・監督できるか？」
W2SGはこれを「弱いAIを使って強いAIを教師あり学習する」という代理設定で実験。
実験設定
- GPT-2 (1.5B) → ラベル付け → GPT-4 (学習)
- GPT-2-XL → GPT-3.5相当を学習
- GPT-3.5相当 → GPT-4相当を学習
重要指標: Performance Gap Recovered（PGR）
PGR = (Strong Floor - Weak Ceiling) / (Strong Ceiling - Weak Ceiling)
- PGR=0: 弱い教師と同じ性能
- PGR=1: 完全な強いモデルを達成
主な結果
NLP・安全性タスク
- PGRは平均0.20〜0.30（タスク依存）
- 一部のQAタスクでPGR = 0.40以上
- 強いモデルは弱い教師のミスを「部分的に」超克
チェスの詰み予測タスク（最高成果）
- 弱い教師: 正答率20%
- 弱いラベルのみで訓練した強いモデル: 正答率72%
- PGR = 0.70以上
チェスのような「客観的正解がある構造化タスク」でW2SGの効果が大きかった。
なぜ「超過般化」が起きるか
W2SGチームの仮説:
- Latent Knowledge: 強いモデルは訓練データから既に「正しい知識」を獲得している
- 弱いラベルはシグナル: 完全でなくても方向性を示す
- Elicitation: 弱いラベルが強いモデルの潜在知識を「引き出す」プロセスとして機能
→ アライメントは「正しい行動を一から教える」のではなく「既に内在する知識を引き出す（Elicit）」問題かもしれない。
補助技術: Bootstrapping
- Confidence weighting: 弱い教師が高確信度のラベルのみ使用
- Auxiliary confidence loss: 強いモデルが弱い教師と不一致な場合に確信度を下げる
- Iterative amplification: 強いモデルを中間教師として次のより強いモデルを訓練
BootstrappingでPGRが0.10〜0.20向上するケースが多数。
限界と批判
- 代理設定の有効性: AIモデル間のW2SGが実際の人間-超知能間のアライメントを代理するかは不明
- タスク依存性: チェスのような構造化タスクでは有効だが、オープンエンドな有害性判定は難しい
- Deceptive alignment: 弱い教師には従順に見せるが強い評価者には本音を見せるAIへの対策なし
- スケール外挿: GPT-2→GPT-4の実験がAGI→超知能のスケールに当てはまるか未検証
Jan LeikeのOpenAI退職（2024年5月）
SuperAlignmentチームを率いたJan LeikeとIlya SutskeverがOpenAIを退職。LeikeはCulture of safetyより製品と利益を優先していると批判。W2SGの研究は続いているが、SuperAlignmentへの組織コミットメントへの疑問が業界で議論を呼んだ。
2025年の続報
- Representation Engineering補完: 内部表現を使ったW2SGの改良実験
- W2SG for Reasoning: o1/o3系Reasoning modelへの適用研究開始
- Alignment Faking発見: Anthropic 2024論文でW2SGが前提とする「潜在知識」がDeceptiveな形で発現する可能性を示唆
まとめ
Weak-to-Strong Generalizationは「弱い教師でも強いモデルの能力を部分的に引き出せる」という実証的発見で、SuperAlignmentへの楽観的な根拠を提供した。ただしPGRが0.20〜0.30という限定的成果と、代理設定の妥当性問題が残る。2025年のAI安全研究で最も参照されている論文の一つ。