AI・機械学習
中級
Portkey AIゲートウェイ(ポートキーエーアイゲートウェイ)
LLMルーティング・フォールバック・キャッシュ・可観測性をオールインワンで提供するエンタープライズ向けAIゲートウェイ。OpenAI互換API・詳細なトレース・コスト管理を統合。
0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
AIゲートウェイ
Portkey
LLM管理
可観測性
エンタープライズAI
フォールバック
Portkey AIゲートウェイとは
Portkeyはインド発のAIインフラスタートアップPortkey.aiが開発するAIゲートウェイ製品。OpenAI互換のHTTPプロキシとして機能し、LLM呼び出しの管理・監視・最適化を一元化する。2023年Y Combinator卒業生。
アーキテクチャ
アプリケーション → [Portkey Gateway] → 各LLMプロバイダーAPI
├── ルーティング
├── フォールバック
├── ロードバランシング
├── キャッシュ(完全一致/セマンティック)
├── ガードレール(PII検出・有害コンテンツ)
└── 可観測性(トレース・コスト)
主要機能
インテリジェントルーティング:
from portkey_ai import Portkey
client = Portkey(
api_key="PORTKEY_API_KEY",
config={
"strategy": {"mode": "loadbalance"},
"targets": [
{"provider": "openai", "model": "gpt-4o", "weight": 0.5},
{"provider": "anthropic", "model": "claude-3-5-sonnet", "weight": 0.5}
]
}
)
セマンティックキャッシュ: 意味的に同一なクエリを検出してキャッシュ結果を返却。コスト削減率20〜60%を報告するケースあり。
可観測性ダッシュボード:
- リクエスト数・レイテンシ・エラー率のリアルタイム監視
- トークン使用量・コスト分析(プロバイダー別・モデル別・ユーザー別)
- 全リクエストの詳細トレース(プロンプト・レスポンス・メタデータ)
仮想APIキー管理: 各プロバイダーのAPIキーをPortkeyに一括登録し、アプリには単一のPortkeyキーのみ配布。
料金体系(2025年)
- Free: 10万リクエスト/月まで無料
- Pro: $49/月〜
- Enterprise: カスタム