RAFT（Retrieval Augmented Fine-Tuning）（ラフトリトリーバルオーグメンテッドファインチューニング）
RAFTは、外部知識検索（Retrieval）の結果をファインチューニングのプロセスに組み込む高度な学習手法です。これにより、モデルが最新かつ特定の情報源に基づいた根拠のある回答生成能力を獲得します。
概要
RAFT (Retrieval Augmented Fine-Tuning) は、LLMの性能限界を超えるための革新的な学習パラダイムです。従来のファインチューニング（FT）が「与えられたデータセットにモデルを慣れさせる」ことに主眼を置いていたのに対し、RAFTは「質問と外部知識ドキュメントの関係性に基づいてモデルの重みを調整する」というアプローチを取ります。これは、RAG（Retrieval Augmented Generation）で用いられる検索メカニズム（検索器）を、推論時だけでなく学習時にも組み込む点に最大の特徴があります。
この手法により、モデルは単なるパターンマッチングではなく、「根拠に基づく回答生成」という高度なタスクを体系的に学んでいきます。特に、企業内部の専門文書や最新の研究レポートなど、一般公開されていないドメイン固有の知識を活用できるため、業務効率化やコンプライアンス遵守が求められる分野で絶大な効果を発揮します。
仕組みと特徴
RAFTの学習プロセスは、従来のファインチューニングを拡張したものです。通常のFTでは、（入力データ, 正解出力）というペアを用いてモデルを最適化しますが、RAFTにおいては、以下の3要素からなるトリプル（質問 $Q$、関連ドキュメント $D$、正解出力 $A$）を使用します。
- Retrieval (検索): ユーザーからの質問 $Q$ が入力されると、まずベクトルデータベースなどを用いて、最も関連性の高い外部知識ドキュメントの集合 $D$ を高速に検索します。このステップがRAFTの中核を成します。
- Augmentation (拡張/学習): モデルは、$Q$ と $D$ の両方をコンテキストとして同時に受け取ります。そして、「与えられた情報源 $D$ に基づいて、質問 $Q$ に対する最適な回答 $A$ は何か？」という制約付きの学習目標を設定されます。
- Fine-Tuning (微調整): モデルは、$D$ を参照しながら $A$ を生成するように重みを更新します。このプロセスを大量のデータペアで繰り返すことで、モデルは「外部情報をどのように解釈し、それを回答に組み込むべきか」という高度な推論能力と情報引用能力を獲得します。
主な特徴:
- 根拠性の保証: 回答が必ず参照されたドキュメント $D$ に基づいているため、ハルシネーションを最小限に抑えられます。
- 最新知識の組み込み: データセットを再構築する必要なく、データベース内の情報を常に最新の状態に保ちながらモデルを改善できます。
- ドメイン適応性: 特定の業界（医療、法律など）特有の専門用語や複雑な関係性を効率的に学習させることが可能です。
従来手法との比較
RAFTの位置づけを明確にするため、関連する主要な技術と比較します。
| 手法 | 学習/適用フェーズ | 知識源の扱い方 | メリット | デメリット |
|---|---|---|---|---|
| ファインチューニング (FT) | 学習時のみ | データセットに固定（静的） | 文体、タスク形式の習得が非常に得意。 | 知識更新が困難で、情報源をデータ化する必要がある。 |
| RAG (Retrieval Augmentation Generation) | 推論時（実行時）のみ | 外部DBから検索しプロンプトに挿入（動的） | 最新情報の取り込みが容易。ハルシネーション対策になる。 | モデル自体が知識を「学習」しないため、回答の質や推論深度に限界がある。 |
| RAFT | 学習時および推論時両方 | 外部DBから検索し、重み更新の制約条件とする（動的） | 最新知識に基づいた根拠のある生成能力をモデル内部に埋め込む。最も汎用性が高い。 | 実装が複雑で、高品質なベクトルデータベースとパイプライン構築が必要。 |
RAFTは、FTの「長期記憶」の強みと、RAGの「リアルタイム参照」の強みを統合したハイブリッド型手法と言えます。
活用事例
RAFTは、知識の蓄積と利用が極めて重要となる以下の分野で特に力を発揮します。
- 企業内ナレッジベース構築（社内FAQ・マニュアル検索）: 大量の過去議事録や規定集を学習させることで、「この会社特有のルールに基づいた回答」を生成するボットが実現します。これにより、新入社員の研修コスト削減や問い合わせ対応工数削減に直結します。
- 法務・コンプライアンス支援: 膨大な判例や法律条文（テキスト）を知識源とし、特定のケースに関する法的リスク分析や適切な対応策を提案させることができます。常に最新の改正法に対応し続けることが可能です。
- 医療診断支援: 最新の研究論文や臨床ガイドライン（PDFなど）をデータとして取り込み、「この症状群に対して、現在最も推奨されている治療プロトコルは何か」といった根拠に基づく助言システムを構築できます。
- 金融・市場分析: 企業の開示資料やニュース記事などの時系列データを参照させ、特定の経済イベントが発生した際の潜在的な影響度を多角的に考察させるレポート生成に利用されます。
まとめ
RAFTは、単なる技術の組み合わせではなく、「知識の検索」というプロセス自体をLLMのコアな能力として学習させるパラダイムシフトです。これにより、従来のAIが抱えていた「古い情報しか知らない」「嘘をつく可能性がある」といった根本的な課題を克服し、真に信頼性と専門性を備えた次世代のAIシステム構築を可能にします。
企業や組織が持つ「暗黙知」や「膨大な文書資産」を最大限に活用し、実用性の高いアウトプットを生み出すための最も強力な手法の一つであると理解することが重要です。