複数のLLMプロバイダ(OpenAI・Anthropic・Google・Meta等)を統一APIで利用できるLLMゲートウェイサービス。モデル間の切り替えをコード変更なしで実現し、コスト最適化とフォールバック制御を提供する。
OpenRouterは、複数のLLMプロバイダが提供するモデルを統一されたOpenAI互換APIで利用できるゲートウェイサービスです。GPT-4o、Claude 3.5 Sonnet、Gemini 1.5 Pro、Llama 3.1 405Bなど100以上のモデルに単一エンドポイント(https://openrouter.ai/api/v1)からアクセスでき、開発者はベースURLを差し替えるだけでマルチモデル環境を構築できます。
OpenRouterはリバースプロキシとして動作し、開発者のAPIリクエストを適切なプロバイダに転送します。
https://openrouter.ai/api/v1/chat/completions(OpenAI SDK互換)model パラメータに openai/gpt-4o や anthropic/claude-3.5-sonnet を指定# OpenAI SDKでOpenRouterを使う例
from openai import OpenAI
client = OpenAI(
base_url="https://openrouter.ai/api/v1",
api_key="sk-or-v1-xxxxx"
)
response = client.chat.completions.create(
model="anthropic/claude-3.5-sonnet",
messages=[{"role": "user", "content": "Hello"}]
)
| モデル | プロバイダ | 入力価格(/1M tokens) | 出力価格(/1M tokens) | コンテキスト長 |
|---|
| GPT-4o | OpenAI | $2.50 | $10.00 | 128K |
| Claude 3.5 Sonnet | Anthropic | $3.00 | $15.00 | 200K |
| Gemini 1.5 Pro | $1.25 | $5.00 | 2M |
| Llama 3.1 405B | Meta (via各社) | $0.80 | $0.80 | 128K |
| Mixtral 8x22B | Mistral | $0.65 | $0.65 | 65K |
| DeepSeek V3 | DeepSeek | $0.14 | $0.28 | 128K |
無料枠のモデル(Llama 3.1 8B、Gemma 2 9Bなど)も提供されており、プロトタイピングに最適です。
OpenRouterの核心機能は、プロバイダレベルの障害対策と負荷分散です。
provider.order で ["Azure", "OpenAI"] のように優先順位を指定可能自前でLLMゲートウェイを構築する場合のOSSとして LiteLLM が代表的です。
| 比較項目 | OpenRouter | LiteLLM |
|---|---|---|
| デプロイ形態 | SaaS(ホスティング済み) | セルフホスト(OSS) |
| APIキー管理 | OpenRouter側で一元管理 | 各プロバイダキーを自前管理 |
| レイテンシ | プロキシ経由の追加レイテンシあり | 直接接続に近い |
| コスト | プロバイダ価格+マージン | インフラコストのみ |
| モデル数 | 100+ | 100+(設定次第) |
| カスタマイズ | 限定的 | フル制御可能 |
| 可用性 | OpenRouter SLA依存 | 自前運用 |
小規模プロジェクトやプロトタイプではOpenRouter、本番環境で完全な制御が必要な場合はLiteLLMが適しています。
Q1: OpenRouterを経由すると応答速度は遅くなりますか? A: プロキシによる追加レイテンシは通常50〜150ms程度です。ストリーミング利用時はTTFT(Time To First Token)への影響が主で、全体のスループットへの影響は軽微です。レイテンシに厳しい本番環境ではプロバイダ直接接続も検討してください。
Q2: OpenRouterのAPIキーが漏洩した場合のリスクは? A: OpenRouterキー1つで全プロバイダにアクセスできるため、漏洩時の影響は大きいです。月間予算上限の設定と、キーのローテーションを推奨します。ダッシュボードからキーの即時無効化も可能です。
Q3: 自前のファインチューニングモデルをOpenRouter経由で提供できますか? A: 一部プロバイダ(OpenAI、Together AI等)のファインチューニングモデルは、プロバイダ側で公開設定すればOpenRouter経由でアクセス可能です。完全にプライベートなモデルの場合はLiteLLM等のセルフホスト型ゲートウェイが適しています。