11000件の用語
2024年DeLonghi発表La Specialista Maestro・Industry-leading dual heating system + Industry-leading Smart Tamping Station + Industry-leading 7 grinder settings + Industry-leading $1,499 DeLonghi La Specialista Maestro semi-automatic espresso machine 2024。
10GbE/2.5GbEホームスイッチ。MikroTik CRS305-1G-4S+IN・CRS309-1G-8S+IN・CRS310-8G+2S+IN・CRS354-48G-4S+2Q+RM・Ubiquiti UniFi USW Pro Aggregation・USW-EnterpriseXG-24・QNAP QSW-M2108-2C/QSW-3216R-8S・TRENDnet TEG-S762・Netgear MS510TXM・¥30k-¥250k・SFP+/RJ45両対応、2026年家庭10GbE NAS+Workstation本格普及。
10 Gigabit Ethernet スイッチ。Cat 6A以上+SFP+/RJ45・$200-$1,000・自作PC用 NAS+10GbE LAN 高速化+TrueNAS Scale主流。
10GBASE-Tは2006年IEEE 802.3anで標準化されたUTP Cat6A以上4対上で10Gbps全二重通信を実現するEthernet規格でPAM-16+LDPC符号化採用し10倍速化を100m長で達成しデータセンタ/高性能サーバ接続を一変させた。
50-100 chars
2024年成熟Tensor Parallelism・Industry-leading Megatron-LM partition weights + Industry-leading column/row-wise sharding + Industry-leading multi-GPU LLM inference + Industry-leading NVIDIA Megatron-LM Tensor Parallelism distributed inference 2024。
2024年Tenstorrent (カナダToronto・2016年Ljubisa Bajic + Ivan Hamer + Milos Trajkovic創業・Jim Keller (元Apple A4-A6 + AMD Zen + Tesla Autopilot CTO) 2021年CEO就任・累計funding $1B+) 発表のGrayskull・RISC-V Computing chip (256 RISC-V cores per chip) + AI workload specialized design + Wormhole next-gen + Blackhole flagship + Tenstorrent Multi-product portfolio・$599-$1,499 (Multiple variants)・Nvidia H100 / AMD MI300X RISC-V alternative position + Jim Keller CEO industry veteran leadership + AI Computing + Server-class RISC-V hybrid。
2024年Tenstorrent公開のRISC-V AI Accelerator。Blackhole p150 PCIe Card+SiFive X280 RISC-V core+Tensix Architecture+TT-Metalium SDK+Wormhole後継。
NVIDIAが開発するGPU最適化LLM推論ライブラリ。Tensor Core活用・量子化(FP8/INT8/INT4)・In-flight Batching・Paged KV Cacheを組み合わせてNVIDIA GPU上での推論スループットを最大化する。
NVIDIAが開発したLLM推論特化のオープンソースライブラリ。FP8/INT4量子化・In-Flight Batching・FlashAttention統合・Tensor Parallelism等を組み合わせ、A100/H100 GPU上でHuggingFace Transformersより4〜8倍の推論スループットを実現する本番環境向け推論エンジン。
NVIDIAが開発するLLM特化の高性能推論ライブラリ。TensorRTの最適化エンジンにLLM固有のIn-Flight Batching・FP8/INT4量子化・テンソル並列化を統合し、NVIDIA GPU上で最高水準のスループットを実現する。
NVIDIAが提供する、大規模言語モデル(LLM)の推論性能を極限まで引き出すためのオープンソース・ライブラリ。量子化や高度なバッチング技術により、データセンター級の高速推論を実現する。
NVIDIA 2023年10月発表 LLM 推論最適化スタック。Tensor Core 専用最適化・FP8/INT4 量子化・MultiGPU/MultiNode 対応
2024年NVIDIA発表TensorRT-LLM NVIDIA H100/H200・Industry-leading NVIDIA GPU optimized LLM inference + Industry-leading H100/H200 FP8 + Industry-leading In-Flight Batching + Industry-leading NVIDIA H100 inference framework flagship。
概要
NVIDIA AI 行列演算専用ハードウェア。Volta V100 (2017) で初導入、第5世代 (Blackwell・FP4対応) で AI 性能爆増、生成AI ブームの心臓部。
AI・機械学習向けの行列演算に特化したNVIDIA GPU内蔵プロセッサ
Tensor Coresは、NVIDIAが開発したハードウェアアクセラレータであり、特に深層学習(ディープラーニング)の行列演算処理を高速化するために設計されています。その登場は、AI技術の進化に大きく貢献しており、PC自作においても重要な要素となりつつあります。本稿では、Tensor Coresの基礎から、種類、選び方、トラブルシューティングまで網羅的に解説します。
Tensor Core Gen 5は、GPU分野における最新技術の一つです。2025年に登場した技術革新により、従来の技術と比較して大幅な性能向上を実現しています。