Npu Processorは、最新のCPU/GPU技術における重要な要素です。
NPU（Neural Processing Unit）は、機械学習や深層学習の推論処理に特化したハードウェアアクセラレータです。Tensor 演算、畳み込み、活性化関数等を CPU や GPU より高速かつ省電力で実行でき、スマートフォン、ノート PC、組込みデバイス、データセンターなど広く採用されています。
| SoC | NPU | TOPS |
|---|---|---|
| Apple A18 | Neural Engine | 35 |
| Apple M4 | Neural Engine | 38 |
| Qualcomm Snapdragon 8 Gen 3 | Hexagon NPU | 45 |
| MediaTek Dimensity 9400 | APU 890 | 50 |
| Samsung Exynos 2400 | NPU | 27 |
| CPU | NPU | TOPS |
|---|---|---|
| Intel Core Ultra Series 1 | NPU | 10 |
| Intel Core Ultra Series 2 | NPU | 48 |
| AMD Ryzen AI 300 | XDNA 2 | 50 |
| Snapdragon X Elite | Hexagon | 45 |
| 製品 | TOPS/TFLOPS |
|---|---|
| Google TPU v5e | 197 TFLOPS |
| AWS Inferentia 2 | 190 TFLOPS |
| Intel Habana Gaudi 3 | 1,835 TFLOPS |
| 製品 | TOPS |
|---|---|
| NVIDIA Jetson Orin | 275 |
| Google Coral | 4 |
| Intel Movidius | 1 |
| Raspberry Pi AI Kit | 13 |
| 項目 | NPU | GPU | CPU |
|---|---|---|---|
| 推論速度 | 最速 | 速 | 遅 |
| 学習 | 限定的 | 最適 | 可能 |
| 省電力 | 最高 | 中 | 低 |
| コスト | 安 | 高 | 中 |
| 汎用性 | 低 | 高 | 最高 |
NPU は低精度演算に最適化：
| 超高 |
| 高 |
| 低 |