MLPerf（エムエルパーフ）
ML Commons業界標準AIベンチマーク。MLPerf Training v5.0(2025)・Inference v5.0(Llama 3.1 405B・Mixtral 8x22B)・Tiny v1.2・Storage v2.0・HPC v4.0、NVIDIA B200 NVL72・AMD Instinct MI325X・Intel Gaudi 3・Google TPU v5p・AWS Trainium 2が2026年競合、Llama 2 70B以降主要モデル。
概要
MLPerf（エムエルパーフ）は、ML Commons が策定した AI ベンチマーク標準です。2025年にリリースされた v5.0 では、Training、Inference、Tiny、Storage、HPC の 5 つのカテゴリが統合され、Llama 3.1 405B や Mixtral 8x22B などの最新大規模モデルを対象に設計されています。2026年に予定される競合ハードウェア（NVIDIA B200 NVL72、AMD Instinct MI325X、Intel Gaudi 3、Google TPU v5p、AWS Trainium 2）とともに、Llama 2 70B 以降の主要モデルが評価対象となります。MLPerf は、ハードウェアとソフトウェアの性能を客観的に比較するため、業界全体で広く採用されています。
主な特徴・仕組み
- 多カテゴリ統合：Training、Inference、Tiny、Storage、HPC を一括で評価。
- モデル対応：Llama 3.1 405B、Mixtral 8x22B、Llama 2 70B など、実際に運用される大規模モデルを採用。
- スケーラビリティ：1 台から数百台にわたるクラスタ構成を想定し、分散学習と推論を同時に測定。
- オープンソース：ベンチマークコードとデータセットは GitHub 上で公開され、誰でも再現可能。
- ハードウェア抽象化：CUDA、ROCm、XLA、TPU、Trainium など、各ベンダーの最適化フレームワークを統一的に呼び出す。
- スコア指標：Throughput（samples/s）と Latency（ms）を組み合わせ、総合スコアを算出。
スペック/製品比較表
| 製品 | GPU/TPU | TFLOPS | メモリ | メモリ帯域 | 推論スループット（samples/s） | 推論レイテンシ（ms） |
|---|---|---|---|---|---|---|
| NVIDIA B200 NVL72 | NVL72 | 1,200 | 80GB HBM3 | 5,120 GB/s | 12,000 | 2.3 |
| AMD Instinct MI325X | MI325X | 1,050 | 64GB HBM3 | 4,800 GB/s | 10,500 | 2.8 |
| Intel Gaudi 3 | Gaudi 3 | 900 | 48GB HBM3 | 4,000 GB/s | 9,200 | 3.1 |
| Google TPU v5p | TPU v5p | 1,500 | 128GB HBM3 | 6,400 GB/s | 14,000 | 1.9 |
| AWS Trainium 2 | Trainium 2 | 1,100 | 64GB HBM3 | 4,800 GB/s | 11,000 | 2.5 |
注：TFLOPS は FP16 性能、メモリ帯域はピーク値。スループットは Llama 3.1 405B を 8x22B で実行した結果。
具体例・対応製品
- Llama 3.1 405B：175B パラメータを超える大規模言語モデル。
- Mixtral 8x22B：8 本の 22B モデルを組み合わせたハイブリッドアーキテクチャ。
- Llama 2 70B：2025年にリリースされた 70B モデルで、Inference v5.0 の主要対象。
- RTX 5090：24GB GDDR7、5.7GHz クロック、PCIe 5.0 x16 接続。
- Ryzen 9 9950X3D：3.8GHz ベース、4.2GHz ブースト、DDR5-6000 対応。
- Core Ultra 9 285K：5.0GHz、DDR5-6000、PCIe 5.0 x16。
- DDR5-6000：メモリ速度 6,000 MT/s、容量 128GB。
- PCIe 5.0 x16：帯域 32 GB/s。
- NVIDIA B200 NVL72：80GB HBM3、5,120 GB/s。
- AWS Trainium 2：64GB HBM3、4,800 GB/s。
自作PCでの選び方・注意点
- GPU：RTX 5090 など、FP16 性能が高いものを選択。
- CPU：Ryzen 9 9950X3D で 3.8GHz ベース、4.2GHz ブースト。
- メモリ：DDR5-6000、容量 128GB 以上。
- ストレージ：NVMe SSD 2TB、読み書き速度 5,000 MB/s。
- 電源：850W 80+ Platinum、80% 時点で 650W。
- 冷却：液体冷却（RTX 5090）と CPU 用 360mm ラジエーター。
- マザーボード：PCIe 5.0 x16 対応、DDR5-6000 互換。
- ケース：フロントファン 120mm 3 個、エアフロー重視。
- OS：Ubuntu 22.04 LTS、CUDA 12.0、ROCm 5.2。
- ソフトウェア：MLPerf v5.0 コードベース、Python 3.10。
- ネットワーク：10GbE LAN、低レイテンシ。
関連用語との違い
- SPEC：CPU・GPU の汎用性能を測定。MLPerf は AI ワークロード専用。
- CUPTI：CUDA のプロファイリングツール。MLPerf はベンチマーク全体を測定。
- TensorFlow Benchmark：フレームワーク単体の性能。MLPerf はハードウェア・フレームワーク両方を統合。
よくある質問
Q1：MLPerf は商用利用に制限がありますか？
A1：無料で利用可能。商用データセットは除外。
Q2：2026年に予定されるハードウェアはすでに入手できますか？
A2：NVIDIA B200 NVL72 は 2025年末にリリース予定。
Q3：Tiny カテゴリは何を測定しますか？
A3：小規模モデル（1B 未満）の推論速度とメモリ使用量。
まとめ
MLPerf v5.0 は、2025年に登場した最新の AI ベンチマークで、Llama 3.1 405B などの次世代大規模モデルを対象に設計されています。自作PCでの構築を検討する際は、GPU、CPU、メモリ、ストレージ、冷却、電源といったハードウェア要素を総合的に評価し、MLPerf のスコアを最大化することが重要です。業界標準として広く採用されているため、性能比較やハードウェア選定の指標として活用できます。