HBM3e/HBM4 8/12 Stack（エイチビーエムサンエー）
HBM(High Bandwidth Memory) Server GPU memory。HBM3(2022年-・1024-bit IO・3.2-6.4Gbps・per-stack 819GB/s)・HBM3e(Extended・8.0-9.2Gbps・1.2TB/s・H200/B200/MI300X採用)・8-Hi stack(8 die・24GB)・12-Hi stack(36GB・MI300X 192GB total)・HBM4(JEDEC 2024年-・2048-bit IO・1.8TB/s/stack)・SK Hynix/Samsung/Micron供給・Rubin R100 HBM4 288GB・GB200 192GB HBM3e・$25-50k per GPU・2026年 HBM4 16-Hi 64GB予想、AI training memory bottleneck緩和。
概要
HBM（High Bandwidth Memory）は、サーバーGPUやAIアクセラレータで使われる高帯域幅メモリで、従来のGDDR5/6に比べてIOピン数が多く、データ転送速度が飛躍的に向上します。2022年に登場したHBM3は1024‑bit IO、3.2‑6.4 Gbpsで1スタックあたり最大819 GB/sを実現。2023年に拡張版HBM3eがリリースされ、8.0‑9.2 Gbpsに達し1.2 TB/sを超える速度を提供。2024年にJEDECがHBM4を承認し、2048‑bit IOで1.8 TB/sの帯域幅を実現。2025年にはNVIDIAのMI300XがHBM4を搭載し、AIトレーニングのメモリボトルネックを緩和する動きが加速。2026年にはHBM4 16‑Hiスタック（64 GB）への拡張が予測され、さらに高いデータスループットが期待される。
主な特徴・仕組み
- IOビット幅：HBM3は1024‑bit、HBM4は2048‑bit。ピン数が倍増することで帯域幅が2倍に拡大。
- 転送速度：HBM3eは8.0‑9.2 Gbps、HBM4は1.8 TB/s（スタック単位）。
- スタック構成：8‑Hiスタック（8 die、24 GB）と12‑Hiスタック（12 die、36 GB）が主流。2026年には16‑Hiスタック（64 GB）へ拡張予定。
- パッケージ密度：1 mm²あたり約1.5 GBの記憶容量。
- 消費電力：HBM3eは1.2 TB/sで約30 W、HBM4は1.8 TB/sで約35 W。
- 熱設計：パッケージ単位での熱設計が必要。HBM4は熱拡散が改善され、10 °C低減。
- 供給企業：SK Hynix、Samsung、Micronが主要サプライヤー。
- 価格帯：HBM3e/HBM4を搭載したGPUは$25,000〜$50,000。
- AIトレーニング：メモリ帯域幅が不足するとモデル学習が停滞。HBM4によりトレーニング時間が最大30 %短縮。
- 2025年の動向：NVIDIAはMI300XでHBM4を採用し、メモリ容量を192 GBに拡張。
- 2026年の予測：HBM4 16‑Hiスタック（64 GB）を搭載したGPUが登場し、AI推論・トレーニングのボトルネックがさらに緩和。
スペック比較表
| 製品 | スタック構成 | 容量 | IOビット幅 | 帯域幅 | 転送速度 | 価格 |
|---|---|---|---|---|---|---|
| NVIDIA H200 | 8‑Hi | 24 GB | 1024‑bit | 819 GB/s | 3.2‑6.4 Gbps | $30,000 |
| NVIDIA MI300X | 12‑Hi | 36 GB | 1024‑bit | 1.2 TB/s | 8.0‑9.2 Gbps | $45,000 |
| Rubin R100 HBM4 | 8‑Hi | 24 GB | 2048‑bit | 1.8 TB/s | 1.8 TB/s | $50,000 |
| Micron GB200 | 12‑Hi | 36 GB | 2048‑bit | 1.8 TB/s | 1.8 TB/s | $48,000 |
| Samsung HBM4 16‑Hi (予測) | 16‑Hi | 64 GB | 2048‑bit | 2.4 TB/s | 2.4 TB/s | $55,000 |
具体例・対応製品
- NVIDIA H200 – 2024年にリリース。8‑Hiスタックで24 GB、HBM3eを採用。
- NVIDIA MI300X – 2025年に登場予定。12‑Hiスタックで36 GB、HBM3eをベースに192 GBに拡張。
- Rubin R100 – 2025年に発表されたHBM4搭載GPU。24 GB、2048‑bit IO。
- Micron GB200 – 2024年にリリース。36 GB、HBM4を採用。
- Samsung HBM4 16‑Hi – 2026年に予測される製品。64 GB、2048‑bit IO。
自作PCでの選び方・注意点
- マザーボード互換性：HBMはGPU専用で、PCIeスロットと電源供給が必要。サーバー向けPCIe 4.0/5.0に対応したマザーボードを選ぶ。
- 電源容量：HBM4搭載GPUは35 W以上の電力を消費。750 W以上の電源ユニットを推奨。
- 冷却設計：高密度パッケージは熱が集中。GPUクーラは水冷または高性能ヒートシンクを採用。
- コスト対効果：$25,000〜$50,000のGPUは予算に応じて選択。学術研究やAI開発用に限定。
- ソフトウェアサポート：CUDA/HIPバージョンがHBMに最適化されているか確認。
- 将来性：HBM4 16‑Hiが2026年に登場予定。今後のアップグレードを見越して、拡張性のあるケースと電源を選ぶ。
関連用語との違い
- GDDR6X：IOピン数が128‑bit程度で、帯域幅は最大1.2 TB/s。HBMはIOが1024/2048‑bitで10倍以上の帯域幅を実現。
- HBM2：2016年に登場。IOは512‑bit、帯域幅は最大1 TB/s。HBM3/3e/4はそれを3倍以上に拡張。
- HBM3e vs HBM4：HBM3eは8.0‑9.2 Gbps、HBM4は1.8 TB/sで2倍以上の速度。IO幅は2倍に増加。
- HBM4 16‑Hi：HBM4 12‑Hiと比較して容量が64 GB、帯域幅が2.4 TB/s。
- HBM3e 8‑Hi vs 12‑Hi：8‑Hiは24 GB、12‑Hiは36 GB。12‑Hiは30 %多い容量と帯域幅。
よくある質問(FAQ)
Q1. HBM4を搭載したGPUはどのくらいの価格になるの？
A1. HBM4搭載GPUは$25,000〜$50,000の範囲で販売されている。製品によってはさらに高額になる場合もある。
Q2. 自作PCでHBM4 GPUを使う際の最大限の注意点は？
A2. 電源容量が不足すると安定動作が保証されない。最低でも750 W以上の電源を使用し、冷却設計を十分に行うことが不可欠。
Q3. 2025年以降にHBM4 16‑Hiが登場すると聞いたが、具体的にどのようなメリットがあるの？
A3. 16‑Hiは64 GBの容量と2.4 TB/sの帯域幅を提供。AIトレーニングで必要とされる大規模モデルのメモリボトルネックを大幅に緩和し、学習時間を最大30 %短縮できる。
まとめ
HBM3eとHBM4は、サーバーGPUやAIアクセラレータ向けに設計された高帯域幅メモリで、IOビット幅と転送速度の両面で従来を大きく上回る性能を持つ。2025年にNVIDIAのMI300XがHBM4を採用し、AIトレーニングのメモリボトルネックを緩和する一方、2026年には16‑Hiスタック（64 GB）へ拡張されることで、さらに高いデータスループットが実現される。自作PCでの導入は高コスト・高電力・高熱設計を伴うため、十分な準備と互換性確認が不可欠だが、最先端のAI・機械学習ワークロードを扱う際には、HBM4搭載GPUは不可欠な選択肢となる。