AI・機械学習
中級
LLM合成データ生成（エルエルエムゴウセイデータセイセイ）
LLMを使って学習用データを人工的に生成する技術。実データの不足・プライバシー・コストの問題を補完し、指示チューニング・アライメント・ドメイン特化ファインチューニング向けデータを大量生成する。
0 回閲覧
0 いいね
2026/6/8 更新
関連タグ
合成データ
LLM
データ拡張
ファインチューニング
アライメント
LLM合成データ生成とは
LLM合成データ生成（Synthetic Data Generation for LLMs）は、大規模言語モデルをデータ生成器として使い、学習・ファインチューニング・アライメントに必要なデータを人工的に作る技術体系。2022年のSelf-Instruct以来急速に発展し、2025年現在はオープンモデルの主要学習データ供給源となっている。
なぜ合成データが必要か
| 問題 | 合成データによる解決 |
|---|---|
| アノテーションコスト高 | LLMが自動生成→人件費ゼロ |
| 希少ドメインデータ不足 | ドメイン特化合成で補完 |
| プライバシー制約 | 個人情報を含まない合成データ生成 |
| データ多様性不足 | プロンプト制御で多様な状況を生成 |
| 高難度データの欠如 | 段階的難度アップ（Evol-Instruct等） |
主要な合成データ手法（2022-2025）
指示データ生成
| 手法 | 概要 | 規模 |
|---|---|---|
| Self-Instruct | シードからLLMが自己生成 | 52K件 |
| Alpaca | GPT-3.5で52K指示データ | 52K件 |
| Evol-Instruct（WizardLM） | 段階的難度アップ | 250K件 |
| OSS-Instruct | OSSコードから指示化 | 75K件 |
| Magpie | LLMから直接対話抽出 | 1M+件 |
事実・知識データ生成
| 手法 | 概要 | データ規模 |
|---|---|---|
| Cosmopedia | Wikipedia/教科書スタイル合成 | 30B tokens |
| FineWeb-Edu | 教育的Webデータフィルタリング | 1.3T tokens |
| Textbooks Are All You Need | 合成教科書データ（phi-1用） | 1B tokens |
コード・数学データ生成
| 手法 | 概要 |
|---|---|
| StarCoder合成 | コードコメントから指示化 |
| MetaMath | 数学問題の言い換え・逆生成 |
| NuminaMath | 競技数学の解法過程合成 |
合成データの品質管理
高品質合成データのためのフィルタリング手順：
- 重複除去: MinHash LSH、ROUGE-L類似度
- 品質スコアリング: 教育的価値スコア（FineWeb-Edu方式）
- 拒否文フィルタ: 「申し訳ありません」等を除去
- 多様性確保: embedding空間でのクラスタリング後サンプリング
- ファクトチェック: 外部知識ベースとの整合確認
2025年の動向
- GPT-4o / Claude 3.5教師モデル化: 高品質教師モデルで合成品質が急向上
- Self-Play合成: LLMが自分自身と対話してデータ生成（SPIN、SPPO）
- マルチモーダル合成: 画像+テキストペアの合成（LLaVA用データ等）
- 合成ベンチマーク: 評価データも合成で作る研究が増加
よくある質問
Q1: 合成データだけでモデルを訓練できる？ A: できる。SmolLM2（Hugging Face）やPhi-2/3（Microsoft）は合成データを主要訓練源として優秀なベンチマーク結果を達成している。
Q2: 合成データの品質はどう評価する？ A: MT-Bench・AlpacaEval等でチューニング済みモデルを評価するのが標準。データレベルでの品質評価にはperplexityや教育的価値スコアが使われる。
Q3: 合成データのリスクは？ A: 教師LLMのバイアス・誤情報が学習データに混入する「幻覚伝播」が最大リスク。高品質フィルタリングと実データとの混合（1:9等）で対策する。