コンテキストウィンドウ経済学（コンテキストウィンドウケイザイガク）
LLMのコンテキストウィンドウ拡大（4K→128K→1M+トークン）がもたらす経済的影響を分析する概念。長文処理のコスト増加、Lost in the Middle問題による精度低下、RAG vs Long Contextのコスト比較など、コンテキスト長と費用対効果の関係を体系的に扱う。
コンテキストウィンドウ経済学とは、LLMが一度に処理可能なトークン数（コンテキストウィンドウ）の拡大が、コスト・精度・アーキテクチャ選択に与える経済的影響を分析するフレームワークである。2026年現在、Gemini 2.0 Proの1Mトークン、Claude 4の200Kトークン、GPT-4oの128Kトークンと、コンテキスト長は劇的に拡大している。
概要
コンテキストウィンドウの拡大は技術的な進歩であると同時に、経済的な選択問題を生み出した。2023年のGPT-4（8Kトークン）では1リクエストの最大入力コストは$0.24だったが、2026年のGemini 2.0 Pro（1Mトークン）では理論上$1,250に達する。コンテキストを広げれば精度が上がるとは限らず、Lost in the Middle問題やAttention希薄化により、むしろ精度が低下するケースも報告されている。
RAG（検索拡張生成）で必要な情報だけを取得するか、Long Contextで大量のドキュメントを丸ごと投入するかは、コスト・精度・レイテンシのトレードオフで決まる。
コンテキスト長の進化と価格推移
| 時期 | モデル | コンテキスト長 | 入力$/1M | 最大入力コスト |
|---|---|---|---|---|
| 2023年3月 | GPT-4 | 8K | $30.00 | $0.24 |
| 2023年11月 | GPT-4 Turbo | 128K | $10.00 | $1.28 |
| 2024年5月 | GPT-4o | 128K | $5.00 | $0.64 |
| 2025年1月 | GPT-4o (値下げ後) | 128K | $2.50 | $0.32 |
| 2024年2月 | Gemini 1.5 Pro | 1M | $3.50 | $3.50 |
| 2025年12月 | Gemini 2.0 Pro | 1M | $1.25 | $1.25 |
| 2024年3月 | Claude 3 Opus | 200K | $15.00 | $3.00 |
| 2025年6月 | Claude 4 Sonnet | 200K | $3.00 | $0.60 |
RAG vs Long Context のコスト比較
10万字（約5万トークン）のドキュメントから質問に回答する場合：
| アプローチ | 入力トークン | 入力コスト(GPT-4o) | 精度 | レイテンシ |
|---|---|---|---|---|
| Long Context（全文投入） | 50,000 | $0.125 | 85〜90% | 8〜15秒 |
| RAG（Top-5チャンク） | 2,500 | $0.00625 | 80〜92% | 2〜4秒 |
| RAG + Reranker | 5,000 | $0.0125 | 88〜95% | 3〜6秒 |
| Hybrid（RAG + Long Context要約） | 10,000 | $0.025 | 90〜96% | 5〜8秒 |
- Long Context有利: ドキュメント間の横断的な関係性把握、要約タスク、全文翻訳
- RAG有利: ピンポイントのファクト検索、大量ドキュメント（100件以上）からの検索、頻繁なクエリ
- ハイブリッド最適: RAGで候補を絞り込み→Long Contextで精読。コストはLong Contextの20%で精度は同等以上
Lost in the Middle問題の経済的影響
2023年にLiu et al.が報告した「Lost in the Middle」現象は、LLMがコンテキストの中間部分の情報を見落とす傾向を示した。128Kトークンのコンテキストでは、先頭10%と末尾10%の情報は90%以上の精度で検索されるが、中間40〜60%の位置にある情報は精度が60〜70%に低下する。
経済的含意：
- 128Kフルに使うと、入力コストに対して30〜40%が「死に金」（中間部分の情報を見落とす）
- 最適コンテキスト長は32K〜64K（精度が安定する範囲）で、それ以上はリターン逓減
- Claude 4はAttention改善により中間部分の精度低下が10〜15%に抑制（Needle in a Haystack テスト99.5%）
- Gemini 2.0 Proは1Mコンテキストで中間部分精度80%以上を達成
コンテキスト長別のコスト効率指標
CPR（Cost Per Relevant token）= 入力コスト ÷ モデルが実際に活用したトークン数
| コンテキスト長 | 入力トークン | 活用率 | CPR(GPT-4o) | CPR(Claude 4 Sonnet) |
|---|---|---|---|---|
| 4K | 4,000 | 95% | $0.0026 | $0.0032 |
| 32K | 32,000 | 85% | $0.0029 | $0.0035 |
| 128K | 128,000 | 65% | $0.0038 | $0.0046 |
| 200K | 200,000 | 55% | - | $0.0055 |
| 1M | 1,000,000 | 40% | - | - |
32K前後がCPR最小（コスト効率最大）。それ以上は活用率低下によりCPRが悪化する。
よくある質問（FAQ）
Q1: Long ContextとRAGのどちらを選ぶべきか？ A: ドキュメント数が10件以下で横断的理解が必要ならLong Context、10件以上のピンポイント検索ならRAG。月間コストが$500以上ならハイブリッド方式を検討すべき。
Q2: コンテキストウィンドウは大きいほど良いのか？ A: 必ずしもそうではない。128K以上では精度が逓減し、CPR（トークンあたりコスト効率）が悪化する。実用的な最適点は32K〜64Kで、それ以上は追加投入するトークンの限界効用が急減する。
Q3: コンテキストキャッシュでどれくらい節約できるか？ A: 固定的なシステムプロンプト（5,000トークン）を毎回送信する場合、Anthropicのキャッシュ（90%割引）で年間$15,000→$1,500に削減可能。セッション内の繰り返し部分が多いほど効果大。
まとめ
- コンテキストウィンドウは4K→1Mに拡大したが、活用率は95%→40%に低下
- CPR（コストあたり活用トークン数）の最適点は32K〜64K
- Lost in the Middle問題で128K以上では入力コストの30〜40%が非効率
- RAGはピンポイント検索でLong Contextの1/20のコスト、ハイブリッドが精度最適
- Claude 4はAttention改善でLost in the Middle問題を10〜15%に抑制