LLM合成データ（Synthetic Data）（エルエルエムゴウセイデータ）
LLM合成データとは、大規模言語モデル（LLM）を用いて人工的に生成されたテキストデータのことで、モデルの学習・評価・ファインチューニングに活用される技術である。
LLM合成データとは
LLM合成データ（Synthetic Data）とは、GPT-4やClaude、Geminiなどの大規模言語モデルを利用して人工的に生成されたテキストデータの総称である。人手によるアノテーションの代替として、指示応答ペア・対話データ・コード・推論チェーンなどを大量に自動生成し、別のモデルの学習に使用する手法が2023年以降急速に普及した。
合成データが注目される背景
LLMの性能向上には高品質な学習データが不可欠だが、人手によるデータ作成にはコスト・時間・スケーラビリティの壁がある。Stanford Alpacaプロジェクトが2023年3月にGPT-3.5（text-davinci-003）で52,000件の指示応答ペアを約$500で生成し、LLaMA 7Bをファインチューニングして実用的な性能を達成したことが、合成データ活用の転換点となった。
- 人手アノテーションのコスト: 1件あたり$1〜$10（タスク複雑度による）
- 合成データのコスト: API利用で1件あたり$0.001〜$0.05
- 生成速度: 1時間あたり数万件の指示応答ペア生成が可能
- MicrosoftのPhi-1（2023年6月）は「Textbooks Are All You Need」アプローチで、GPT-3.5が生成した高品質な教科書風テキスト10億トークンでコード生成モデルを学習
- HuggingFaceのCosmopedia（2024年2月）はMixtral 8x7Bで2,500万件・250億トークンの合成教科書データを生成
主要な合成データ生成手法
| 手法名 | 提案元 | 概要 | 生成規模 | 特徴 |
|---|---|---|---|---|
| Self-Instruct | Wang et al. 2022 | モデル自身が指示・入力・出力を生成 | 52K+ | 種データ175件から自己拡張 |
| Alpaca方式 | Stanford 2023 | 強力なモデルのAPI呼び出しで一括生成 | 52K | GPT-3.5で$500、シンプル |
| Evol-Instruct | WizardLM 2023 | 既存指示を段階的に複雑化・深化 | 250K+ | 難易度の制御が可能 |
| UltraChat | Ding et al. 2023 | 2つのChatGPTインスタンスで対話生成 | 1.5M | マルチターン対話に特化 |
| LIMA | Zhou et al. 2023 | 厳選された1,000件の高品質データ | 1K | 品質＞量を実証 |
| Orca方式 | Microsoft 2023 | GPT-4の推論プロセスを模倣する説明付きデータ | 5M+ | 推論能力の蒸留に有効 |
合成データの品質管理
合成データの品質は生成モデルの能力に依存するため、以下の課題が存在する。
- ハルシネーション: 事実と異なる情報がデータに混入するリスク
- 均質性: 同一モデルからの生成ではデータの多様性が低下する傾向
- モデル崩壊（Model Collapse）: 合成データだけで学習を繰り返すと性能が劣化する現象（Shumailov et al. 2024）
- ライセンス問題: OpenAI利用規約ではGPT出力による競合モデル学習を制限
- バイアス増幅: 生成元モデルのバイアスが蒸留先に継承・増幅される
品質確保の実践手法:
- 複数モデルからの生成によるデータ多様性の確保
- 自動フィルタリング（品質スコア・重複除去・長さフィルタ）
- 人手サンプリング検証（生成データの5〜10%を人間が評価）
- 実データとの混合比率最適化（合成:実 = 7:3〜9:1が一般的）
2025-2026年の最新動向
- Nemotron-4 340B（NVIDIA, 2024年6月）: 合成データ生成に特化した340Bパラメータモデル。98%合成データでNemotron-4 15Bを学習し、人手データと同等の性能を達成
- Magpie（2024年8月）: LLMのオートリグレッシブ生成特性を利用し、プロンプトテンプレートなしで400万件の指示応答ペアを自動生成
- Cosmopedia v2（HuggingFace, 2024年）: Mixtral 8x22Bで390億トークンの合成教科書データ生成
- 2025年以降: マルチモーダル合成データ（画像+テキスト+コード）、合成推論チェーン（o1/o3スタイル）、合成ツール呼び出しデータの需要が急増
よくある質問（FAQ）
Q1: 合成データだけでLLMを学習しても性能は出るのか？ A: 条件付きで可能。MicrosoftのPhi-1はほぼ100%合成データで学習し、HumanEvalベンチマークで50.6%を達成した。ただし、長期的には実データとの混合が推奨される。NVIDIAのNemotron研究では98%合成データ+2%実データが最適比率とされている。
Q2: 合成データのライセンスはどうなっているのか？ A: OpenAIの利用規約（2024年改訂）ではGPT出力で競合モデルを学習することを明示的に禁止している。一方、Llama・Mistral・Qwenなどのオープンモデルからの生成は各モデルのライセンスに従う。商用利用にはApache 2.0ライセンスのモデルが安全。
Q3: モデル崩壊を避けるにはどうすればよいのか？ A: 実データと合成データの適切な混合比率を維持すること、複数の異なるモデルから合成データを生成すること、世代をまたいだ再帰的な合成データ生成を避けることが重要。Shumailov et al.の研究では5世代以上の再帰生成で顕著な性能劣化が観測されている。
まとめ
- LLM合成データは人手アノテーションのコスト・時間を10〜100倍削減する技術
- Alpaca・Evol-Instruct・Orca方式など、目的に応じた多様な生成手法が存在
- 品質管理（ハルシネーション対策・多様性確保・フィルタリング）が実用化の鍵
- 2026年時点では合成データなしのLLM開発はほぼ不可能な状況