AI・機械学習
中級

Portkey AIゲートウェイ(ポートキーエーアイゲートウェイ)

LLMルーティング・フォールバック・キャッシュ・可観測性をオールインワンで提供するエンタープライズ向けAIゲートウェイ。OpenAI互換API・詳細なトレース・コスト管理を統合。

0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
AIゲートウェイ
Portkey
LLM管理
可観測性
エンタープライズAI
フォールバック

Portkey AIゲートウェイとは

Portkeyはインド発のAIインフラスタートアップPortkey.aiが開発するAIゲートウェイ製品。OpenAI互換のHTTPプロキシとして機能し、LLM呼び出しの管理・監視・最適化を一元化する。2023年Y Combinator卒業生。

アーキテクチャ

アプリケーション → [Portkey Gateway] → 各LLMプロバイダーAPI
                       ├── ルーティング
                       ├── フォールバック
                       ├── ロードバランシング
                       ├── キャッシュ(完全一致/セマンティック)
                       ├── ガードレール(PII検出・有害コンテンツ)
                       └── 可観測性(トレース・コスト)

主要機能

インテリジェントルーティング:

from portkey_ai import Portkey

client = Portkey(
    api_key="PORTKEY_API_KEY",
    config={
        "strategy": {"mode": "loadbalance"},
        "targets": [
            {"provider": "openai", "model": "gpt-4o", "weight": 0.5},
            {"provider": "anthropic", "model": "claude-3-5-sonnet", "weight": 0.5}
        ]
    }
)

セマンティックキャッシュ: 意味的に同一なクエリを検出してキャッシュ結果を返却。コスト削減率20〜60%を報告するケースあり。

可観測性ダッシュボード:

  • リクエスト数・レイテンシ・エラー率のリアルタイム監視
  • トークン使用量・コスト分析(プロバイダー別・モデル別・ユーザー別)
  • 全リクエストの詳細トレース(プロンプト・レスポンス・メタデータ)

仮想APIキー管理: 各プロバイダーのAPIキーをPortkeyに一括登録し、アプリには単一のPortkeyキーのみ配布。

料金体系(2025年)

  • Free: 10万リクエスト/月まで無料
  • Pro: $49/月〜
  • Enterprise: カスタム
この記事について
カテゴリーAI・機械学習
難易度中級
作成日2026/6/6