14805件の用語
データを部分抽出する操作。Python / JavaScript の配列スライス、Mermaid Slice、3D プリント Slicing、Web デザインの画像分割等で使われる。
2024年Ashkboos et al. (ETH Zurich+Microsoft)発表SliceGPT・Industry-leading structured pruning LLM + Industry-leading PCA-based slicing + Industry-leading orthogonal transformation + Industry-leading 25-30% reduction LLaMA-2 70B/Phi-2。
SliceGPTはMicrosoft Researchが2024年に発表したLLM向け構造化プルーニング手法。行列スライシング(次元削減)によってTransformerの隠れ次元dmodelを削減し、再学習なしで20〜30%のパラメータ削減を達成しながら推論高速化を実現する。SparseGPT・Wandaの非構造化スパース化と異なり、削除後のモデルは標準的な密行列として実行できる。
Transformerのセルフアテンション計算を固定幅のローカルウィンドウに制限し、計算量をO(n²)からO(n×w)に削減する手法。Mistral 7Bで採用されたことで広く知られ、Longformer、BigBirdなどの先行研究を実用レベルに昇華させた。ロングコンテキスト対応の基盤技術の一つ。
Transformerの自己注意機構で、各トークンが全トークンではなく固定幅のウィンドウ内のトークンのみに注意を向ける手法。計算量をO(n²)からO(n×w)に削減し(wはウィンドウ幅)、長系列の効率的な処理を可能にする。Mistralモデルで実用化された。
Transformerの各トークンがアテンションを計算する範囲を固定ウィンドウサイズに制限する手法。全トークン間のアテンション計算(O(n²))を局所範囲に限定することで長文脈処理を効率化する。
Transformerの自己注意機構において、各トークンが固定幅のウィンドウ内にある隣接トークンのみに注意を向けるローカルアテンションの実装手法。Mistral 7Bで広く知られ、FlashAttention-2以降でハードウェアレベルの最適化が進んだ。計算量はO(n×w)でwはウィンドウ幅。
スライディングウィンドウアテンション(Sliding Window Attention, SWA)とは、各トークンが全トークンではなく周囲の固定幅ウィンドウ(通常1,024〜4,096トークン)内のトークンのみに注意を向けるローカルアテンション手法である。計算量をO(n^2)からO(n * w)に削減しつつ、複数層を積み重ねることで実効的な受容野を拡大する。Mistral 7Bがウィンドウ幅4,096で採用し、長文処理の効率化手法として広く知られるようになった。
...
米 Patrick Volkerding 1993年7月発表の主流主流主流最古現存 Linux ディストロ Slackware・「Slackware 主流主流主流最古現存業界主流」.
1993年に誕生した現存最古のLinuxディストリビューション。UNIX哲学に基づき、余計な抽象化を排除したシンプルさと、ユーザーによる完全なシステム制御を特徴とする。
1993年Patrick Volkerding公開Slackware Linux 最古Active Linux Distribution。SLS(Softlanding Linux System)派生+簡素Init System+Manual Configuration重視+Long Term Stability+Slackware Philosophy搭載。
2024年2月14日Salesforce/Slack公開Slack AI。Pro 業界Pro Mainstream Chat SaaS AI Top + Pro Channel Recap Pro Famous + Pro Conversation Summary + Pro $10/月/User + Pro Salesforce買収 + 2024-09 Pro Slack AI Translation + 2025-Pro Agentforce統合 + 累計2024-2025年Heritage。
ブルガリアThrax Audio社のフラッグシップ真空管モノブロック。150W 211 SET+独自LL2722 trans・US$95000の欧州独自設計。
米 2003年1月発生のSQL Slammer。Microsoft SQL Server 脆弱性 + 10分で全世界拡散・「業界主流最速拡散ワーム」.
米3M 1976年発表24chマルチトラックテープレコーダー。米Capitol/Atlantic/Columbia採用+業務リファレンス機・US$60000当時
2024年Q4 3M (Industry-leading specialty chemicals manufacturer・1902年設立・累計売上$30B+/year・米Minnesota本社) Novec specialty fluids業界全面discontinuation announcement・Novec 7100 = 2-Phase Immersion Cooling industry-standard dielectric fluid (Boiling point 61°C + PFAS-based specialty chemical + Industry-standard 2-Phase Immersion fluid GRC OptiCool等 dominant deployment fluid・1996年Novec brand launch以降 28年Industry-standard 2-Phase fluid heritage)・3M Novec全面discontinuation = Environmental regulation PFAS chemicals影響 + 3M strategic decision・2-Phase Immersion industry-wide supply chain critical issue + Single-Phase Immersion preference acceleration potential。
US-CERT推奨データ保全手法。3コピー(オリジナル+2コピー)・2メディア(HDD+クラウド)・1オフサイト(地理的分離)・+1Air Gap(3-2-1-1-0 evolution)・Backblaze B2・Wasabi Cloud・Acronis True Image・Veeam Backup for Microsoft 365・ランサムウェア対策も兼ねる、2026年データ消失対策標準。
AMDの革新的キャッシュ技術。CPUの上にL3キャッシュを垂直積層し、ゲーム性能を大幅向上させる。
LLM大規模訓練の3つの並列化戦略の組み合わせ。データ並列(DP)・テンソル並列(TP)・パイプライン並列(PP)を同時に適用し、数千GPUでの効率的な訓練を実現する。Megatron-LMとDeepSpeedで実装されGPT-3規模以上のモデル訓練の標準手法。