AI・機械学習
上級
Magpie合成データ生成（マグパイごうせいデータせいせい）
事前学習済みLLMにシステムプロンプトなしで推論させ、モデル自身が生成した高品質instructionデータを自動収集する合成データ手法。
0 回閲覧
0 いいね
2026/6/8 更新
関連タグ
Magpie
合成データ
LLM
instruction tuning
自動データ生成
Magpie合成データ生成とは
Magpieは2024年にUC BerkeleyとMeta AIが発表した合成instructionデータ生成手法である。instruction-tuned LLMはuser-turnの開始トークンが与えられると、事前学習で学んだパターンから自然な質問や指示を生成する性質を持つ。この性質を利用してモデル自身に高品質なデータを生成させる。
動作原理
通常のチャットテンプレートではsystem→user→assistantの順でプロンプトを構成するが、Magpieではuser開始トークンだけを入力する：
# 通常の推論
prompt = "<|begin_of_text|><|start_header_id|>user<|end_header_id|>"
# Magpieはここで生成を開始 → モデルが質問を自動生成
generated_instruction = model.generate(prompt)
# → "Pythonで素数判定の効率的なアルゴリズムを教えてください"
# 次にassistantとして応答を生成
full_response = model.generate(prompt + generated_instruction + "<|eot_id|><|start_header_id|>assistant<|end_header_id|>")
生成パイプライン
1. user開始トークン注入
↓
2. Instructionを自動生成
↓
3. 同モデルでResponseを生成
↓
4. 品質フィルタリング（長さ・言語・有害性）
↓
5. 難易度・カテゴリラベリング（Reward Modelで評価）
↓
6. ShareGPT/Alpaca形式に変換
代表的なMagpieデータセット
- Magpie-Pro-1M-v0.1: Llama-3.1-70B-Instructで生成した100万件
- Magpie-Pro-MT-300K: 多ターン対話データ30万件
- Magpie-Llama-3.1-Pro-500K: 高品質フィルタ済み50万件
- Magpie-Qwen2-Pro-200K: Qwen2-72Bで生成した日中英多言語データ
品質特性
Magpieデータはモデル自身の分布から生成されるため、Self-Instruct（GPT-3.5でAlpacaを生成）に比べてターゲットモデルとの分布一致度が高い。論文ではLlama-3.1-8B-InstructをMagpieデータのみでSFTしても、公式instructモデルと同等以上の性能が出ることを示した。
課題と対策
| 課題 | 対策 |
|---|---|
| バイアス増幅 | 元モデルのバイアスが反映される → Reward Modelで品質フィルタ |
| 難易度偏り | 容易な質問が多くなりがち → 難易度スコアで再サンプリング |
| 有害コンテンツ | Llamaguard-3などで安全フィルタリング |
| 言語偏り | 英語中心 → 多言語モデルで多言語生成 |
2025年の発展
Magpie手法はQwen2.5・Gemma-2・Mistral-Nemo等多様なベースモデルに適用され、各社がMagpie派生データセットを公開している。特にQwen2.5-72B-InstructでのMagpie生成データは数学・コーディングタスクで高品質データを大量生成できることが示されている。