サーバーレス GPU（サーバーレスジーピーユー）
使用時間単位で課金される GPU 実行環境。Modal・Replicate・RunPod 等が代表で、AI 推論・学習のコスト最適化に活用される。
概要
サーバーレス GPU とは、使用時間単位で課金される GPU 実行環境の総称で、Modal・Replicate・RunPod・Banana・Beam などが代表的プラットフォームである。ユーザーは GPU インスタンスの常時稼働（アイドル時間課金）から解放され、推論リクエスト受信時のみ GPU を起動する従量課金モデルで、AI 推論・ファインチューニング・画像生成ワークロードのコスト最適化に革新をもたらしている。2026 年現在、AWS Lambda・Cloudflare Workers に続く「AI ネイティブ」サーバーレスの本命として急成長中。
主な特徴・仕組み
- コールドスタート: 3-30 秒（Modal 3s、Replicate 10-20s、RunPod 15-30s）
- 課金単位: 秒課金または 100ms 課金（Modal H100 秒単価 ¥1.2）
- 対応 GPU: NVIDIA L4・L40S・A10G・A100・H100・H200（2025 年以降）
- 自動スケーリング: 0 から N へ即時水平拡張、アイドル時は 0 インスタンス
- コンテナベース: Docker/OCI イメージで関数定義、Python デコレータで関数化
- ストレージ: モデルキャッシュ（数百 GB）を専用 SSD に永続化しコールドスタート短縮
- 対応フレームワーク: PyTorch・TensorFlow・vLLM・TGI・ComfyUI
- 料金モデル: 従量課金のみ / サブスク＋従量 / 予約インスタンス割引の 3 形態
スペック比較表
| プラットフォーム | H100 時間単価 | コールドスタート | 最低課金単位 | 特徴 |
|---|---|---|---|---|
| Modal Labs | $4.56 | 3 秒 | 100ms | Python API 使いやすい |
| Replicate | $5.04 | 10-20 秒 | 秒 | モデル公開エコシステム |
| RunPod Serverless | $3.89 | 15-30 秒 | 秒 | 価格重視 |
| Banana | $4.20 | 5-10 秒 | 秒 | LLM 推論特化 |
| Beam | $4.80 | 3-8 秒 | 秒 | 料金透明性 |
| AWS SageMaker Serverless | $5.50 | 20-60 秒 | 秒 | 既存 AWS 連携 |
具体例・対応製品
- Modal Labs: @stub.function デコレータで Python 関数を GPU 実行、H100 時間 $4.56、スポット料金 50% 引き
- Replicate: LLaMA・Stable Diffusion・Whisper の公開モデルを API 即実行、課金は推論回数
- RunPod Serverless: Worker 起動時間ベース課金、A100 40GB は時間 $1.39 と業界最安水準
- Banana: LLM 推論特化、vLLM 統合で Llama 3 70B を 1 秒 1 トークン級で動作
- 実装例: ComfyUI サーバーレス（RunPod、月 20 時間使用で ¥4,200）、Stable Diffusion XL バッチ生成（Modal、1 画像 ¥1.5）
自作PCでの選び方・注意点
自作 PC ユーザーがサーバーレス GPU を選ぶ動機は主に 3 つ: (1) 手元 GPU が AI 推論には不足（RTX 3060-4070 クラス）、(2) 大規模モデル（Llama 3 70B・SDXL）を動かしたい、(3) 常時稼働コストが高い。
選定基準:
- 開発検証: Modal または Replicate（UX 優先）
- コスト重視: RunPod Serverless（料金最安）
- LLM 推論主体: Banana（vLLM 最適化）
- 既存 AWS 利用: SageMaker Serverless
落とし穴:
- コールドスタート遅延: チャットボット等のリアルタイム用途では「ウォームプール」機能（有料）が必要
- ストレージ課金: モデルキャッシュ（50-200GB）は別途月額課金発生。SDXL + LoRA 10 種で月 ¥3,000 程度
- リージョン: 日本リージョンを提供するのは Modal（東京）・RunPod（一部）のみ、レイテンシ差 100-150ms
長期的な月 100 時間超の使用では、ローカル RTX 4090（¥289,800）が元を取れる閾値となる。逆に間欠利用なら圧倒的にサーバーレスが有利。
関連用語との違い
サーバーレス GPU vs GPU クラウド（EC2 GPU 等）: 後者は時間課金・常時稼働前提、サーバーレスはリクエスト単位で 0 スケール可能。サーバーレス GPU vs コンテナ型 GPU: Kubernetes GPU はオーケストレーション層、サーバーレスはプラットフォームが隠蔽。サーバーレス GPU vs Colab Pro: Colab は人手オペレーション前提のノートブック、サーバーレスは API 呼び出しプロダクション用途。
よくある質問（FAQ）
Q1: ローカル RTX 4090 とサーバーレス H100 の損益分岐点は？ A: 電気代込み RTX 4090 総コスト ¥350,000 を、Modal H100 の月 30 時間使用で 7-8 ヶ月で超える。月 10 時間以下ならサーバーレスが永続的に有利。
Q2: コールドスタートを実用レベルに抑えるには？ A: Modal の keep_warm=1 設定で常時 1 インスタンス維持（料金はかかる）。もしくはモデルキャッシュを 250GB SSD に永続化＋vLLM で 3 秒以内起動を実現。
Q3: 個人開発者が最初に試すならどれ？ A: Modal の月 $30 無料枠から開始を推奨。Python デコレータ式で学習コスト低く、Stable Diffusion や Whisper を 30 分で動かせる。
まとめ
- サーバーレス GPU は AI 推論の間欠利用で圧倒的にコスト有利
- Modal・Replicate・RunPod が 3 大プラットフォーム、H100 時間 $3.89-5.04
- コールドスタート 3-30 秒が実用上の主な課題
- モデルキャッシュ永続化で起動高速化と UX 改善
- 月 100 時間超の常時稼働用途ではローカル GPU 検討推奨