LLMコンテキストウィンドウ（コンテキストウィンドウ）

概要

LLMコンテキストウィンドウとは、大規模言語モデルが1回の推論で処理できるトークン数の上限を指す。テキストのみならず画像・音声・コードを含むマルチモーダルな「作業記憶」として機能し、プロンプト入力と生成出力の合計がこの上限内に収まる必要がある。

2020年のGPT-3(4,096トークン)から2025年のGemini 1.5 Pro(100万トークン)まで約250倍に拡大し、長文書・コードベース全体・数時間分の会議録を一括処理できるようになった。一方、コンテキストが長いほど推論コスト(費用・レイテンシ)が増大し、「Lost in the Middle」と呼ばれる中間部への注意散漫問題も生じる。

主な特徴・仕組み

• GPT-4o: 128,000トークン(約96,000語、96ページ相当)
• Claude 3.5 Sonnet/Opus: 200,000トークン(約150,000語)
• Gemini 1.5 Pro/Flash: 1,000,000トークン(100万・約750,000語)
• Gemini 1.5 Pro 2.0: 2,000,000トークン(200万)
• Llama 3.1 405B: 128,000トークン
• Qwen2.5-72B: 128,000トークン
• トークン化: 日本語は1文字≒1-2トークン(英語の1.5-3倍のコスト)
• 推論コスト: O(n²)の注意機構により長コンテキストは指数的にコスト増

コンテキスト長比較表

具体例・ユースケース

長コンテキストが活きる場面:

• コードベース全体レビュー: 10万行のリポジトリを1プロンプトで解析(Gemini 1.5 Pro使用時)
• 法律文書: 1,000ページの契約書全文を一括分析
• 動画文字起こし: 3時間の会議録(約9万トークン)を要約・Q&A化

日本語換算目安:

• 128Kトークン ≈ 64,000〜85,000文字 ≈ 文庫本1〜2冊分
• 1Mトークン ≈ 50〜70万文字 ≈ 長編小説7〜10冊分

注意点・制約

Lost in the Middle問題: コンテキスト中央部の情報は先頭・末尾に比べ見落とされやすい。重要情報はプロンプトの先頭か末尾に配置するのが実用的対策。

コスト計算: 入力+出力トークンで課金されるため、毎回100万トークン送信すると費用が急増する。キャッシュ機能(Claude Prompt Caching・Gemini Context Caching)で繰り返しコンテキストのコストを削減できる。

関連技術との違い

RAGは長コンテキストの代替として用いられてきたが、コンテキストウィンドウが1M超に拡大すると直接入力の方が検索ミスがなく高精度になるケースが増えた。ただしコスト・レイテンシの観点ではRAGがまだ有利なシーンも多い。

よくある質問(FAQ)

Q1: 日本語で使うとトークン消費は英語の何倍ですか? A: 日本語は1文字あたり1〜2トークン消費するため、同じ文字数なら英語の1.5〜3倍のトークンを消費します。128Kトークンは日本語で約6〜8万文字相当です。

Q2: コンテキストが長いほど回答精度は上がりますか? A: 必ずしもそうではありません。Lost in the Middleにより中央部の情報は見落とされやすく、不要情報を大量に含めると精度が下がることもあります。必要な情報だけを絞り込むのが実用的です。

Q3: Claude 200KとGemini 1Mはどちらを選べばよいですか? A: 文書100万トークン超の超長文処理はGemini 1.5 Pro/Flash一択です。200K以下の文書ならClaude 3.5 Sonnetがコード・推論精度で優れています。コストはGemini 1.5 Flashが最も安価です。

まとめ

• LLMコンテキストウィンドウはGPT-3の4Kから2025年に最大2Mトークンまで拡大
• Gemini 1.5 Pro(1M)・Claude 3.5 Sonnet(200K)・GPT-4o(128K)が2025年の主力
• 日本語は英語の1.5〜3倍のトークンを消費する点に注意
• Lost in the Middle・推論コスト増大が長コンテキストの主な課題