クラウドGPU（クラウドジーピーユー）
GPU計算クラウドサービス。RunPod(H100 $2.79/h)・Vast.ai(spot)・Lambda Cloud(H200 Cluster)・CoreWeave・Together AI($0.50-3/h)・Replicate・Modal Labs・Paperspace・Beam Cloud・Groq($0.60/Mtok)・Cerebras・Fireworks AI・OpenRouter・AWS p5.48xlarge(H200・$98.32/h)が2026年代表、LLM fine-tune/推論用。
概要
クラウドGPUは、GPUを物理サーバに設置せず、インターネット経由で利用できるサービスである。
2025年に登場した RunPod の H100 で 80GB HBM3 を搭載したモデルは、1 時間あたり 2.79USD で利用可能。
2026年に AWS が提供する p5.48xlarge は、8 台の H200 を組み合わせた構成で 80GB HBM3 を備え、1 時間 98.32USD。
LLM の fine‑tune や推論を高速化するために、GPU 価格・性能を比較しながら選択することが重要である。
主な特徴・仕組み
- 従量課金制：使用時間に応じて料金が発生。
- 即時プロビジョニング：数分で GPU を起動できる。
- スケーラビリティ：必要に応じて GPU 数を増減。
- 多様な GPU アーキテクチャ：NVIDIA H100、H200、Groq、Cerebras CS‑2 など。
- データ転送速度：最大 2.5TB/s（Groq）や 1.2TB/s（Cerebras CS‑2）と高速。
スペック/製品比較表
| サービス | GPU | メモリ | 価格/時 | 主な用途 |
|---|---|---|---|---|
| RunPod H100 | H100 | 80GB HBM3 | 2.79USD | LLM 推論 |
| Lambda Cloud H200 Cluster | H200 | 80GB HBM3 | 3.00USD | 大規模トレーニング |
| Groq | 8‑core | 32GB HBM3 | 0.60USD/トークン | 低レイテンシ推論 |
| AWS p5.48xlarge | 8×H200 | 640GB HBM3 | 98.32USD | エンタープライズ級 |
具体例・対応製品
- RunPod：H100 で 80GB、価格 2.79USD/時。
- Lambda Cloud：H200 Cluster で 80GB、価格 3.00USD/時。
- Groq：2.5TB/s の帯域幅、0.60USD/トークン。
- Cerebras CS‑2：1.2TB/s、1.2TB/s、価格 0.50USD/時。
- AWS p5.48xlarge：8×H200、640GB、98.32USD/時。
- Vast.ai Spot：スポット価格で 0.30USD/時。
- Together AI：0.50–3.00USD/時。
- Replicate：モデル単位で 0.10–2.00USD/時。
- Modal Labs：サーバレスで 0.05–1.00USD/時。
- Beam Cloud：GPU 4×、32GB、0.80USD/時。
自作PCでの選び方・注意点
- GPU 価格：RTX 5090 は 80GB GDDR7、価格 1,200USD。
- メモリ容量：LLM 推論には 32GB 以上が推奨。
- 電力供給：RTX 5090 は 350W、RTX 5090 には 850W PSU が必要。
- 冷却：高性能 GPU は 80°C 以上になるため、液体冷却を検討。
- PCIe バージョン：PCIe 5.0 x16 で 32GB/s 以上の帯域幅を確保。
- ドライバ：NVIDIA 525.60 以降を使用。
- OS：Ubuntu 22.04 LTS が最適。
- ソフトウェア：CUDA 12.0、cuDNN 8.9 をインストール。
- 電源効率：80 PLUS Gold 以上。
- ケース：フロントファン 2 つ以上。
関連用語との違い
- クラウドGPU：インターネット経由で GPU を利用。
- GPU クラスタ：複数 GPU をまとめた構成。
- GPU 仮想化：1 台の物理 GPU を複数ユーザーで共有。
- GPU コンテナ：Docker で GPU を利用可能にする技術。
よくある質問
Q1. 料金はどのように決まりますか？
A1. 使用時間と GPU 種類で決まり、スポット価格は需要に応じて変動します。
Q2. データ転送速度はどれくらいですか？
A2. Groq は 2.5TB/s、Cerebras CS‑2 は 1.2TB/s の帯域幅を持ちます。
Q3. どのサービスが LLM 推論に最適ですか？
A3. RunPod H100 と Lambda Cloud H200 Cluster が高い推論性能を提供します。
まとめ
クラウドGPUは、GPU を物理的に購入せずに高性能計算を実現できる手段である。
2026年に登場した AWS p5.48xlarge は、8 台の H200 を組み合わせた構成で 640GB のメモリを備え、エンタープライズ向けに最適。
RunPod H100 は 80GB HBM3 を搭載し、1 時間 2.79USD で利用可能。
Groq は 2.5TB/s の帯域幅と 0.60USD/トークンの低価格で、低レイテンシ推論に強い。
Cerebras CS‑2 は 1.2TB/s の帯域幅と 0.50USD/時で、超大規模トレーニングに適している。
自作PCを構築する場合は、GPU のメモリ容量、電力供給、冷却、PCIe バージョンを十分に検討することが重要。
クラウドGPU の選択は、用途、予算、スケーラビリティを総合的に判断して決定する。