RAG アーキテクチャ（ラグアーキテクチャ）

RAGアーキテクチャの基礎概念と必要性

RAG（Retrieval-Augmented Generation：検索拡張生成）とは、大規模言語モデル（LLM）の生成プロセスに、外部の信頼できる知識ベースから関連情報を動的に取得して組み込むアーキテクチャのことです。

従来のLLMは、学習データに含まれる知識のみに基づいて回答を生成します。しかし、学習データには「カットオフ日」という時間的な制限があるため、最新のニュースや社内秘のドキュメントといった、学習データに含まれない情報については回答できません。また、もっともらしい嘘をつく「ハルシネーション（幻覚）」という深刻な課題を抱えています。

RAGはこの問題を、モデル自体の再学習（ファインチューニング）を行うのではなく、「外部から正しい情報を提示して、それを参照して回答させる」というアプローチで解決します。例えるならば、LLMを「非常に頭の良いが記憶が曖昧な学生」とし、RAGを「その学生に最新の専門書や社内マニュアルを配り、それを見ながら回答させるオープンブック形式の試験」にする手法と言えます。

特に、2025年以降のAI活用においては、汎用的なAIではなく「自社専用の知識を持つAI」への需要が急増しており、RAGはエンタープライズAI実装における標準的な設計パターンとなっています。

RAGの技術的ワークフロー：検索から生成まで

RAGのプロセスは大きく分けて「インデックス作成（事前準備）」と「推論（実行時）」の2つのフェーズで構成されます。

1. インデックス作成フェーズ（データの構造化）

まず、PDFやテキストファイル、データベースなどの非構造化データをLLMが扱いやすい形式に変換します。

• チャンキング: 長大な文書を、意味のある小さな単位（チャンク）に分割します。
• 埋め込み（Embedding）: 分割したテキストを、意味的なベクトル（数値の配列）に変換します。ここで、テキストの意味を多次元空間上の座標として表現します。
• ベクトルデータベースへの保存: 変換されたベクトルデータを、高速検索が可能なベクトルデータベースに格納します。

2. 推論フェーズ（回答の生成）

ユーザーが質問を入力した際、以下のステップが瞬時に行われます。

• クエリのベクトル化: ユーザーの質問文を、インデックス時と同じモデルを用いてベクトル化します。
• 類似性検索: ベクトル空間上で、質問のベクトルに最も近い（＝意味的に近い）チャンクを上位数件抽出します。
• コンテキスト注入（Augmentation）: 抽出したチャンクと元の質問を組み合わせたプロンプトを作成します。「以下の参考資料に基づき、質問に答えてください。[参考資料：〇〇...][質問：△△...]」という形式になります。
• 回答生成（Generation）: LLMが提示された根拠資料に基づき、正確な回答を生成します。

RAG実装に求められるハードウェア要件

RAGをローカル環境やオンプレミスで構築する場合、単純なチャットボットよりも高いハードウェアスペックが要求されます。特に「埋め込みモデルの動作」と「LLMの推論」という2つの負荷が発生するためです。

GPUとVRAMの重要性

LLMの推論において最大のボトルネックとなるのがVRAM（ビデオメモリ）です。RAGでは、外部から取得した大量のコンテキストをプロンプトに詰め込むため、入力トークン数が増加し、それに伴いVRAM消費量も増大します。

例えば、NVIDIA RTX 4090（24GB GDDR6X）のようなコンシューマー向け最上位GPUであれば、量子化された7B〜30Bクラスのモデルを動作させることが可能です。しかし、より大規模なモデルや、高度なRAGパイプラインを構築する場合、NVIDIA RTX 6000 Ada Generation（48GB VRAM）や、データセンター向けのNVIDIA H100（80GB HBM3）のような超大容量メモリを搭載したGPUが必須となります。特にH100は、最大700W TDPという膨大な電力を消費しますが、その分、次世代のAIワークロードにおいて圧倒的なスループットを実現します。

CPUとメモリ、ストレージの構成

ベクトルデータベースのインデックス作成や、大規模なドキュメントの処理には、高いマルチスレッド性能を持つCPUが求められます。AMD Ryzen Threadripper 7980X（64コア/128スレッド）のようなワークステーション向けCPUは、大量のテキストデータを並列でベクトル化する際に極めて有効です。

また、システムメモリは最低でも128GB以上のCrucial DDR5-6000などの高速メモリを搭載することが推奨されます。ストレージに関しては、ベクトルデータベースのI/O負荷が高いため、Samsung 990 Proのような読み込み速度12,000 MB/sクラスのGen4 NVMe SSDを採用することで、検索レイテンシを最小限に抑えることができます。

RAG構築向けハードウェア構成例

ベクトルデータベースとインデックス化の仕組み

RAGの心臓部とも言えるのがベクトルデータベースです。従来のSQLデータベースが「キーワードの一致」で検索するのに対し、ベクトルデータベースは「意味の近さ（コサイン類似度など）」で検索します。

ベクトル検索のメカニズム

テキストをベクトル化する際、例えば1,536次元の数値配列に変換されます。この次元空間において、近い位置にあるデータは意味的に似ていると判断されます。

• 例: 「PCの自作方法」というクエリに対し、「マザーボードの選び方」や「CPUの取り付け手順」という文章は、キーワードが完全一致しなくてもベクトル空間上で近くに配置されるため、適切に抽出されます。

効率的なインデックス手法

数百万件のドキュメントから瞬時に検索を行うため、以下のような最適化技術が使われています。

• HNSW (Hierarchical Navigable Small World): グラフ構造を用いて、近似最近傍探索（ANN）を高速に行う手法です。
• IVF (Inverted File Index): 空間をクラスターに分割し、検索範囲を絞り込む手法です。
• 量子化 (Quantization): 浮動小数点数（FP32）のベクトルを整数（INT8など）に圧縮し、メモリ消費量を削減しつつ検索速度を向上させます。

RAGの精度を向上させるためのテクニック

単に検索して投げるだけでは不十分な場合があり、以下の高度な手法が導入されています。

• Hybrid Search: ベクトル検索（意味検索）とキーワード検索（BM25など）を組み合わせ、固有名詞などの完全一致を補完します。
• Re-ranking: 検索で抽出した上位20件を、より精緻な「リランカーモデル」で再評価し、真に重要な上位5件に絞り込んでLLMに渡します。
• Query Expansion: ユーザーの単純な質問を、LLMを用いて複数の検索クエリに展開し、網羅的に情報を収集します。

2025年〜2026年に向けたRAGの進化と次世代トレンド

RAGは現在、単純な「検索→生成」から、より自律的な「エージェント型RAG」へと進化しています。2025年から2026年にかけて、以下のトレンドが主流になると予想されます。

1. Agentic RAG（エージェント型RAG）

これまでのRAGは一方通行のフローでしたが、次世代のRAGは「思考ループ」を持ちます。

• LLMが「この検索結果では不十分だ」と判断した場合、自ら検索クエリを書き直して再検索を行う。
• 複数の異なるデータソース（Web、社内DB、API）を使い分ける。
• 回答を生成した後、根拠となる資料と矛盾がないか自ら検証し、修正する。

2. GraphRAGの普及

従来のベクトル検索では、「AさんとBさんの関係性は？」といった複雑な関係性の抽出が苦手でした。そこで、データをグラフ構造（ノードとエッジ）で保持するGraphRAGが登場しています。これにより、ドキュメントをまたいだ高度な推論や、全体的な要約（Global Query）が可能になります。

3. ロングコンテキストLLMとの統合

最近のLLMはコンテキストウィンドウ（一度に読み込める量）が飛躍的に拡大しています。100万トークン以上を扱えるモデルが登場しており、これにより「RAGで絞り込む」のではなく「関連ドキュメントを丸ごとコンテキストに投入する」という手法が可能になりつつあります。しかし、計算コスト（VRAM消費量）と推論速度の観点から、引き続き効率的なRAGアーキテクチャとの併用が最適解とされるでしょう。

4. オンデバイスRAGの加速

NPU（Neural Processing Unit）を搭載した最新のCPUや、4nm/3nmプロセスで製造された省電力かつ高性能なAIチップの普及により、クラウドを介さない完全ローカルなRAG環境が一般化します。プライバシーが極めて重要な機密文書を扱う企業にとって、オンプレミスでのRAG構築は2026年までの最重要課題となるはずです。

FAQ

Q1: RAGとファインチューニング（微調整）はどちらが良いのでしょうか？ A: 目的によって異なります。最新情報への対応や、根拠の提示（ソース明示）が必要な場合はRAGが圧倒的に有利です。一方で、特定の専門用語の言い回しを覚えさせたい、あるいは特定の出力形式（JSON形式など）に厳格に固定したい場合はファインチューニングが適しています。現代のAIシステムでは、ベースモデルをファインチューニングし、その上でRAGを運用するハイブリッド構成が最強とされています。

Q2: RAGを導入しても、依然として嘘（ハルシネーション）をつくことはありますか？ A: はい、あります。原因は主に2つあります。一つは「検索段階で不適切な資料を抽出してしまった」こと、もう一つは「抽出した資料の中に正解があるのに、LLMがそれを無視して回答した」ことです。これを防ぐには、前述のリランキング（Re-ranking）の導入や、プロンプトで「資料に答えがない場合は、正直に『分かりません』と答えてください」と厳格に指示することが有効です。

Q3: ローカルでRAGを構築する場合、最低限必要なGPUスペックは？ A: 快適に動作させるには、VRAM 12GB以上のGPU（例：RTX 3060 12GBやRTX 4070 Ti Super 16GB）を推奨します。ただし、実用的な精度を持つ7B〜13Bクラスのモデルを高速に動作させ、かつ十分なコンテキストを確保したいのであれば、RTX 3090や4090のような24GB VRAM搭載モデルが現実的なスタートラインとなります。