NPU TOPS (Tera Operations Per Second)（エヌピーユートップス）
Neural Processing Unit の演算性能指標で、INT8 演算を 1 秒間に何兆回実行できるかを表す単位。Copilot+ PC は 40TOPS 以上、2025年主流 NPU は 40-50TOPS 水準。
概要
NPU TOPS（Tera Operations Per Second）は、Neural Processing Unit の AI 演算性能を示す国際的に使われる単位で、1 秒間に何兆回の演算を実行できるかを INT8 基準で計測する指標である。2024 年に Microsoft が Copilot+ PC 認定基準を 40TOPS 以上と定めたことで一般ユーザーにも浸透し、2025-2026 年の AI PC 市場では CPU クロックと並ぶ主要スペック指標となった。現行 NPU は 40-50TOPS が主流で、2026 年後半には 80-100TOPS 製品の登場が予告されている。
主な特徴・仕組み
- 演算単位: INT8 演算を基準（FP16 や FP32 も公表される場合あり）
- 測定方法: MAC（Multiply-Accumulate）演算を 2 operations としてカウント
- 典型値: Copilot+ PC 基準 40TOPS、ハイエンド 50TOPS、2026 後半予定 80-100TOPS
- 用途: Windows Studio Effects（背景ぼかし・視線補正）、Copilot Recall、ローカル LLM 推論
- 電力効率: 1W あたり 10-15TOPS（モバイル）、15-25TOPS（デスクトップ）
- メモリ帯域: 近接メモリ（キャッシュ統合）と DRAM 両方をサポート
- 量子化: INT8 量子化モデルで最高性能、INT4/FP16 はモデル次第
- AI フレームワーク: ONNX Runtime・DirectML・Windows ML 経由で利用
スペック比較表
| NPU | TOPS (INT8) | 電力効率 | プラットフォーム | 発売 |
|---|---|---|---|---|
| Apple M4 Neural Engine | 38TOPS | 24TOPS/W | M4 Mac | 2024 |
| Qualcomm Hexagon NPU | 45TOPS | 22TOPS/W | Snapdragon X Elite | 2024 |
| Intel AI Boost (Lunar Lake) | 48TOPS | 20TOPS/W | Core Ultra 200V | 2024 |
| AMD XDNA 2 | 50TOPS | 18TOPS/W | Ryzen AI 300 | 2024 |
| Apple M5 Neural Engine | 68TOPS（予定） | 30TOPS/W | M5 Mac（2025 Q4） | 2025 |
| Intel Panther Lake | 80TOPS（予定） | 22TOPS/W | Core Ultra 300（2026） | 2026 |
具体例・対応製品
- Snapdragon X Elite: Hexagon NPU 45TOPS、Surface Laptop 7・Dell XPS 13 搭載、¥198,000-298,000
- Intel Core Ultra 7 258V（Lunar Lake）: AI Boost 48TOPS、ASUS ZenBook S 14・HP OmniBook Ultra 搭載、¥248,000-328,000
- AMD Ryzen AI 9 HX 370: XDNA 2 NPU 50TOPS、ASUS ROG Zephyrus G14・Lenovo Yoga Slim 7、¥228,000-298,000
- Apple M4 Pro: 38TOPS Neural Engine、MacBook Pro 14/16、¥328,000-
- 対応ソフト: Adobe Photoshop 2025（AI 背景削除）、DaVinci Resolve 19（Magic Mask）、Windows Studio Effects
- ベンチマークツール: UL Procyon AI Computer Vision、Geekbench AI（旧 Geekbench ML）
自作PCでの選び方・注意点
自作 PC ユーザーが NPU TOPS を評価する際は以下の観点が重要:
Copilot+ PC 要件: 40TOPS 以上、16GB RAM、256GB SSD が必須。Recall・Cocreator などの専用機能を使うなら必須スペック。
デスクトップ vs モバイル:
- モバイル（Lunar Lake/Snapdragon X）: 48-50TOPS、バッテリー駆動前提で省電力
- デスクトップ（Arrow Lake-S）: 13TOPS（Arrow Lake NPU 最大、Lunar Lake より少ない）、フルパワー GPU 併用前提
- GPU との比較: RTX 4090 は約 1321 AI TOPS（INT8 Tensor）、NPU 50TOPS の 26 倍。ただし NPU は専用ワークロード・低消費電力（5W vs 450W）で有利
将来性:
- 2025 Q4-2026 Q1: Panther Lake（80TOPS）、Apple M5 Neural Engine（68TOPS 予定）
- 2026 Q3 以降: Copilot+ PC 新基準（推定 80TOPS 以上）策定予定
- ローカル LLM: 7B モデル Q4 量子化で 40TOPS NPU で 15-25 token/s、実用圏
計測の注意: メーカー公称 TOPS と実測 TOPS は乖離することあり。UL Procyon AI 実測で評価する習慣が推奨される。
関連用語との違い
NPU TOPS vs GPU TOPS: GPU は FP16/FP32 主体の並列演算、NPU は INT8/INT4 主体の低精度高速演算。用途が異なる。NPU TOPS vs FLOPS: TOPS は整数演算/秒、FLOPS は浮動小数演算/秒。AI 推論では TOPS、学習は FLOPS 指標が主。NPU 100TOPS（用語集既存）: 単に「100TOPS クラスの NPU」を指す呼称、NPU TOPS は単位そのものの定義。AI TOPS: GPU メーカーが NPU 的性能を示すための別呼称、NVIDIA RTX 40 は AI TOPS 表記を使用。
よくある質問（FAQ）
Q1: NPU 48TOPS と GPU 100AI TOPS ではどちらが AI 処理速いですか？ A: 単純速度では GPU 100TOPS が上。ただし消費電力（GPU 200W vs NPU 5W）とバッテリー駆動シナリオでは NPU が実用的。
Q2: Copilot+ PC 未満（40TOPS 未満）でも AI 機能は使えますか？ A: Windows Studio Effects の一部（背景ぼかし）は CPU でも動作。ただし Copilot Recall・Cocreator 等は 40TOPS 必須で代替不可。
Q3: 2026 年に PC を買うなら何 TOPS 狙うべき？ A: 長期使用なら 80TOPS 以上（Panther Lake・Apple M5）を推奨。現行 40-50TOPS は 2027 年以降の新 AI 機能で力不足になる可能性が高い。
まとめ
- NPU TOPS は INT8 演算/秒の性能指標
- Copilot+ PC 基準は 40TOPS 以上
- Snapdragon X Elite 45、Lunar Lake 48、Ryzen AI 50 TOPS が 2024 現行最高水準
- 2026 年以降 80-100TOPS 世代が登場予定
- GPU AI TOPS と比較され、消費電力・バッテリー用途で NPU が優位