AI・機械学習
中級
外部メモリ（LLM）（ガイブメモリ）
コンテキスト窓外のストレージ（ベクトルDB・RDB・グラフDB等）に記憶・知識を永続化し検索・取得する仕組みの総称。
0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
LLM
RAG
ベクトルDB
メモリ
エージェント
外部メモリ（LLM）とは
外部メモリ（LLM）は、LLMのコンテキストウィンドウの外側に配置された永続的ストレージシステムで、LLMエージェントが長期的な情報・知識・経験を保持するための中核インフラです。コンテキスト窓内のワーキングメモリとは異なり、セッションをまたいで情報が保持されます。
外部メモリの種類
ベクトルデータベース（最も一般的）
自然言語テキストをEmbeddingベクトルに変換して格納。意味的類似検索が可能で、RAGシステムの中核として広く利用されます。
- Pinecone: マネージド型ベクトルDB、大規模本番環境向け
- Qdrant: OSS、高性能フィルタリング機能
- Weaviate: マルチモーダル対応、グラフ型拡張
- ChromaDB: 軽量OSS、プロトタイピング向け
- pgvector: PostgreSQL拡張、既存DB統合
リレーショナルDB
構造化されたエンティティ・関係・ファクトの保存。SQLによる精密なクエリが可能。
グラフDB
エンティティ間の複雑な関係を表現。知識グラフ構築に最適。Neo4j、TigerGraph等。
キー・バリューストア
セッション状態・ユーザー設定の高速アクセスに利用。Redis等。
RAGにおける外部メモリの役割
Retrieval-Augmented Generation（RAG）システムでは：
- Ingestion: ドキュメントをチャンク分割 → Embedding生成 → ベクトルDB格納
- Retrieval: クエリをEmbedding化 → Top-K類似チャンク検索
- Augmentation: 取得チャンクをワーキングメモリ（コンテキスト）に注入
- Generation: 強化されたコンテキストでLLMが応答生成
外部メモリ vs コンテキスト内情報
| 観点 | 外部メモリ | コンテキスト窓 |
|---|---|---|
| 容量 | 無制限（TB以上） | 有限（~200K tokens） |
| 永続性 | セッション横断 | セッション内のみ |
| アクセス | 検索クエリ必要 | 直接参照可 |
| コスト | ストレージ+検索 | トークン課金 |
設計上の考慮点
- チャンク戦略: 適切なチャンクサイズが検索精度に直結（一般的に512〜1024トークン）
- Embedding選択: 対象言語・ドメインに適したモデル選択（日本語ならmultilingual対応モデル）
- ハイブリッド検索: ベクトル検索 + キーワード検索（BM25）の組み合わせが高精度
- 再ランキング: 初期検索結果をCross-Encoderで再スコアリングして精度向上