用語集

TransformerのAttention計算におけるメモリ帯域（I/O）のボトルネックを解消し、高速化と省メモリ化を実現したアルゴリズム。HBMとSRAM間のデータ転送を最適化する。

Transformerのセルフアテンション計算をIO効率化するアルゴリズム。HBMとSRAM間のデータ転送を最小化するタイリング技法により、標準アテンションと数学的に等価な結果を2〜4倍高速に算出する。

FlashAttentionとは、GPUのメモリ階層（SRAM/HBM）を意識したIO-Awareなアテンション計算アルゴリズムであり、標準的なアテンション実装と数学的に同一の結果を返しながら、実行速度を2〜4倍高速化しメモリ使用量をO(n^2)からO(n)に削減する。Tri Dao（Stanford/Together AI）が2022年に提案し、FlashAttention-2（2023年）、FlashAttention-3（2024年、H100/Hopper最適化）と進化を続けている。

Stanford大学のTri Daoらが提案したAttention計算のIO最適化アルゴリズム。GPUのHBM（高帯域メモリ）とSRAM（オンチップメモリ）間のデータ転送を最小化するタイリング手法により、標準的なAttentionと数学的に等価な結果をメモリ使用量O(n)・最大3倍の高速化で実現する。

2024年7月Princeton + Together AI + Meta + NVIDIA発表FlashAttention 3・Industry-leading H100 75% utilization + Industry-leading 1.5-2x faster vs FA-2 + Industry-leading FP8 support + Industry-leading FlashAttention 3 H100-optimized attention 2024。

NVIDIA Hopper（H100/H200）アーキテクチャの非同期計算・FP8精度・WGMMA命令を活用したアテンション計算最適化。FlashAttention-2比で最大2倍の高速化を達成する。

Transformerのアテンション計算をGPUのSRAMを活用して高速化するアルゴリズムの第3世代。H100/H800 GPU向けに最適化されたIO-Aware実装。

Tri Dao氏らが開発したTransformerのAttention計算を高速化するアルゴリズム。GPUのSRAMを活用してメモリアクセスを最小化し、標準Attentionより2〜4倍の高速化とメモリ削減を実現する。LLM推論・学習の事実上の標準最適化技術。

Tri Dao Princeton/Together AI 2023年 IO-Aware Attention 高速実装。FlashAttention v1 から 2倍高速化・GPU HBM 帯域最適化

2024年Q1 University of Washington + CMU + Tri Dao (Princeton)共同発表FlashInfer paper・Industry-leading LLM inference attention kernel library・Industry-leading PagedAttention + GQA + MLA + Sliding Window + Custom attention pattern Industry-leading flexible attention kernel optimization・Industry-leading vLLM + SGLang + TGI integration・Industry-leading PyTorch + JAX backend Industry-leading LLM inference attention library Industry-leading position。

切断面が平坦（フラッシュ）になるように設計された精密ニッパー。電子工作でのリード線カット、結束バンドのツラ切り、自作PCケース内のタイラップ処理など、狭い空間で突起を残さない切断に使用する。

FlashAttentionの技術をデコード（推論）フェーズに特化して最適化した手法。長いコンテキストでの自己回帰生成において、Attentionの並列度を高めてGPU利用率を改善する。

長文脈LLMの推論デコード段階を高速化するアテンション計算最適化手法。FlashAttentionをデコード（逐次生成）に適応させ、KVキャッシュへのアクセスをシーケンス長方向に並列化することでメモリ帯域幅律速の問題を解消する。

USBメモリ型ストレージ。SanDisk Extreme PRO USB 3.2 Solid State（最大420MB/s・1TB）・Samsung BAR Plus 256GB・Kingston DataTraveler Max・Lexar JumpDrive P30が代表で、USB 3.2 Gen 2（10Gbps）対応品が2026年主流。

BIOS Flashback CPU不要更新手順。1) Mainboard maker 公式site から latest BIOS download(.CAP file・ASUS X870E-HERO.CAP命名形式)・2) USB Stick FAT32 format(32GB max推奨)・3) BIOS file rename specific(ASUS: "X870EHERO.CAP" or auto detect・MSI: "M7E18.220"形式)・4) USB stick挿入(背面 BIOS Flashback専用 USB 2.0 port・赤色枠白LED multi)・5) CPU/Memory無装着OK(電源24-pin ATX + 12V CPU EPS接続必須)・6) PSU on→Power button短押し→Flash開始・7) LED点滅 5-10min wait・8) LED消灯=完了・9) Power off→USB抜去→CPU装着→正常起動・GIGABYTE: Q-Flash Plus button・MSI: Flash BIOS Button・ASUS: BIOS FlashBack Button・新CPU装着前必須(AGESA未対応 boot不可回避)・2026年 X870E/Z890 Q-Flash Plus standard。

HDDの磁気記録円盤。最新のHAMR（Seagate Mozaic 3+・32TB）・SMR（Aerial Density増加）で大容量化、1プラッター2-4TB・2.5mm厚が主流。7200rpm/5400rpmで動作。

平型ケーブル。SATA Data flat cable・IDE 80芯・FPC（Flexible PCB）・LVDS液晶接続・HDMI flat・USB Type-C Magsafeが代表で、薄型PCケース/SFF組立時のエアフロー改善+曲げ半径耐性でLian Li Uni Fan RGB等で多用。

Linux Universal Package。Flatpak 1.16 (Flathub・FOSS Sandbox)・Snap (Canonical・Maintenance)・AppImage Type 2 (Self-Contained Single Binary)・Distrobox (Container based・FOSS)・Toolbox (Fedora Atomic)・Nix (Reproducible)・Bottles (Wine Wrapper)・Lutris (Game Launcher)・Steam Runtime・Pacstall (Arch風 Ubuntu)・homebrew on Linux・¥0 OSS・Immutable OS (Fedora Silverblue/Kinoite/openSUSE Aeon/MicroOS)、2026年Immutable+Flatpak組合せ主流化。

Platform As A Service (PaaS) は、クラウドコンピューティングにおける重要なサービスモデルの一つです。ハードウェアやオペレーティングシステムといったインフラストラクチャの管理をクラウドプロバイダーに委託し、開発者がアプリケーションの開発、実行、および管理に集中できる環境を提供します。PC自作の文脈では直接的なパーツとして存在しませんが、クラウド上で動作するソフトウェアやサ

内部開発者向けプラットフォーム (IDP) 構築職。Backstage/Humanitec/Port が代表ツール、2026年は AI Internal Developer Platform で生産性向上。