LLMファインチューニング（エルエルエムファインチューニング）
事前学習済みの大規模言語モデル（LLM）を特定のタスクやドメインに適応させるため、追加のデータセットで再学習させる技術の総称。Full Fine-tuning、LoRA、QLoRA、Instruction Tuningなど複数の手法が存在する。
LLMファインチューニングとは、事前学習（Pre-training）で汎用的な言語能力を獲得した大規模言語モデルに対し、特定タスク・ドメイン・組織のニーズに合わせて追加学習を施す技術群である。2026年現在、GPT-4o、Claude 3.5、Llama 3.1、Mistral、Gemma 2など主要モデルのほぼ全てがファインチューニングAPIまたはオープンウェイトを提供しており、企業導入の主要パスとなっている。
概要
ファインチューニングの基本的な考え方は「大量データで学んだ汎用知識を保持しつつ、少量の高品質データで特定能力を強化する」ことにある。事前学習には数千GPU×数週間のコストがかかるが、ファインチューニングは1〜8 GPU×数時間で完了するケースが多い。2025年以降、パラメータ効率的ファインチューニング（PEFT）の発展により、消費者向けGPU（RTX 4090 24GB VRAM）1枚でも7B〜13Bモデルのチューニングが可能になった。
主な手法は以下に大別される：
- Full Fine-tuning: モデル全パラメータを更新。最高精度だが計算コスト大
- LoRA (Low-Rank Adaptation): 低ランク行列を挿入し、追加パラメータのみ学習
- QLoRA: 4bit量子化 + LoRAの組み合わせでVRAM使用量を劇的削減
- Instruction Tuning: 指示-応答ペアでモデルの指示追従能力を向上
- Prefix Tuning / Prompt Tuning: 入力側に学習可能なトークンを追加
主なファインチューニング手法の比較
| 手法 | 更新パラメータ | VRAM目安(7B) | 学習時間(7B) | 精度 | 主要ツール |
|---|---|---|---|---|---|
| Full Fine-tuning | 100% | 60GB+ (A100×2) | 4-8時間 | 最高 | DeepSpeed, FSDP |
| LoRA | 0.1-1% | 16-24GB | 1-3時間 | 高 | PEFT, Unsloth |
| QLoRA | 0.1-1% | 6-12GB | 2-4時間 | 高（やや劣る） | bitsandbytes, Unsloth |
| Instruction Tuning | 100% or PEFT | 可変 | 可変 | タスク依存 | OpenAI API, Axolotl |
| Prefix Tuning | <0.1% | 8-16GB | 30分-1時間 | 中 | PEFT |
代表的なファインチューニングフレームワーク
2026年時点で広く使われているツール群：
- Unsloth: LoRA/QLoRAに特化した高速フレームワーク。Llama 3.1、Mistral、Gemma 2対応。学習速度2-5倍高速化、VRAM使用量60%削減を謳う。無料版とPro版（$30/月）あり
- Axolotl: YAML設定ベースの汎用ファインチューニングツール。Full FT、LoRA、QLoRA、DPOなど幅広い手法をサポート
- Hugging Face TRL (Transformer Reinforcement Learning): SFTTrainer、DPOTrainer、PPOTrainerを統合。Hugging Faceエコシステムとシームレスに連携
- LLaMA-Factory: 100以上のモデルに対応する統合GUI/CLI。WebUIでノーコードファインチューニングが可能
- OpenAI Fine-tuning API: GPT-4o-miniのファインチューニングに対応。JSONL形式のデータアップロードで手軽に実行。$25/1M tokens（学習）
ファインチューニングのワークフロー
実際のファインチューニングは以下のステップで進行する：
- データ準備: 高品質な学習データを収集・整形。一般に500〜10,000件の指示-応答ペア。JSONL形式が標準
- ベースモデル選択: タスク要件に応じてモデルサイズ（1B〜70B）とライセンス（Apache 2.0、Llama License等）を選定
- ハイパーパラメータ設定: 学習率（1e-5〜5e-4）、エポック数（1〜5）、バッチサイズ、LoRAランク（8〜128）
- 学習実行: GPU環境でトレーニング。Weights & Biases等で損失曲線をモニタリング
- 評価: ベンチマーク（MMLU、MT-Bench等）および人間評価で品質確認
- マージ・デプロイ: LoRAアダプタをベースモデルにマージし、GGUF量子化→推論サーバ（vLLM、TGI等）にデプロイ
ファインチューニング vs プロンプトエンジニアリング vs RAG
| 比較項目 | ファインチューニング | プロンプトエンジニアリング | RAG |
|---|---|---|---|
| カスタマイズ深度 | 最も深い | 浅い | 中程度 |
| 初期コスト | 高（GPU/API） | 低（プロンプト設計のみ） | 中（検索基盤構築） |
| 運用コスト | 低（推論のみ） | 低 | 中（インデックス更新） |
| データ鮮度 | 学習時点で固定 | リアルタイム | リアルタイム |
| 適用場面 | スタイル変更、専門知識注入 | 一般タスク | 最新情報参照 |
実践的な選び方・注意点
ファインチューニングが効果的なケース：
- 特定のフォーマット・トーンでの出力が必要（医療文書、法律文書、社内スタイルガイド）
- ドメイン固有の専門用語・知識が大量にある
- プロンプトエンジニアリングでは達成できない一貫性が求められる
- 推論コスト削減（大モデル+Few-shotより、小モデル+FTの方が安い場合）
注意すべき落とし穴：
- データ品質 > データ量: 100件の高品質データは10,000件の低品質データに勝る
- Catastrophic Forgetting: 過学習により汎用能力が劣化する。学習率を低く保ち、エポック数を1〜3に抑える
- ライセンス確認: Llama 3.1のCommunity Licenseは月間7億MAU以上の企業に制約あり
- 評価の難しさ: 自動評価（perplexity、BLEU）と人間評価の乖離が大きい場合がある
よくある質問（FAQ）
Q1: ファインチューニングにはどのくらいのデータが必要？ A: 最低500件、理想は3,000〜10,000件の高品質な指示-応答ペア。OpenAIの推奨は最低10件だが、実用的な品質改善には500件以上が必要。データの多様性と品質が量より重要。
Q2: 個人のPCでファインチューニングは可能？ A: QLoRAを使えばRTX 4090（24GB VRAM）1枚で7Bモデルのファインチューニングが可能。13Bモデルは厳しいが、Unslothの最適化により一部対応。70Bモデルは最低A100×2（160GB）が必要。Google Colabの無料T4（16GB）でも4bit QLoRAで7Bモデルを学習できる。
Q3: ファインチューニングとRAGはどちらを先に試すべき？ A: まずRAGを試すべき。RAGは即座にデプロイでき、データ更新も容易。RAGで精度が不足する場合（出力スタイルの統一、専門的な推論能力が必要等）にファインチューニングを検討する。両者の併用（FT済みモデル + RAG）が最も強力。
まとめ
- ファインチューニングはLLMを特定用途に最適化する最も強力な手法
- QLoRA + Unslothの登場で個人GPU環境でも実用的なFTが可能に
- データ品質が最重要。500件の高品質データから始めるのが定石
- プロンプトエンジニアリング → RAG → ファインチューニングの順に試すのが効率的
- 2026年はOpenAI API、Hugging Face TRL、Unslothが三大実行環境