AI・機械学習用語集

上海AI研究所（Shanghai AI Lab）が開発したオープンソースマルチモーダルLLM。1Bから78Bまでの豊富なサイズ展開と、画像・動画の高精度理解を強みとし、2024年末のベンチマークでGPT-4o・Claude 3.5 Sonnetに匹敵する性能を示したオープンソース代表モデル。

Shanghai AI Lab 2024年7月発表 OSS マルチモーダル LLM。1B-108B 派生・GPT-4V 凌駕性能・MIT・中国系最強

Shanghai AI Laboratory開発のオープンソースビジョン言語モデルシリーズ。InternViT視覚エンコーダーとInternLM2テキストモデルを組み合わせ、2B〜78Bまでの複数サイズを提供する。

Shanghai AI Labが開発したオープンソースVLMシリーズ。1B〜78BまでApache 2.0で提供し商用VLMに匹敵する性能を達成。

LLM Agent や RAG システムが処理する外部データ（Web ページ・PDF・メール等）に悪意ある指示を埋め込み、モデルを乗っ取る攻撃手法。Greshake et al.（2023）が体系化。

Transformerの2層以上のモデルで自発的に出現する回路。[A][B]→[A]のパターンを学習し、文脈内学習（in-context learning）の基盤となる注意ヘッドのペア。Anthropic 2022年の発見。

Transformerモデルに共通して存在する注意ヘッドのパターンで、[A][B]...→[A]というコンテキストを認識して[B]を予測する機能を持つ。In-context Learningの根幹メカニズムとして特定されたMechanistic Interpretabilityの重要発見。

4bit整数量子化フォーマット。FP16比で4倍圧縮・2-3倍推論速度を実現し、LLM（Llama 3 70B・GPT-OSS 20B）のローカル実行で必須。NVIDIA TensorRT-LLMやGGUF Q4_K_M形式で広く利用。

Intelの第3世代AIアクセラレータ。5nmプロセス、HBM3e搭載、最大1.84PFLOPS のAI性能を実現し、大規模言語モデル(LLM)の学習・推論を高速化。

IntelがHabana Labsの技術を用いて開発した、AI学習・推論に特化した第3世代HPU。NVIDIA GPUに対するコスト効率の高い代替案として設計されており、大規模なAIインフラ構築を目的としている。

Intel製AI学習・推論アクセラレータ。HBMe2搭載・BF16 1835 TFLOPS・RoCE対応ネットワークで構成コスト削減を目指すH100対抗モデル。

Intel（旧 Habana Labs）が開発した第3世代 AI 学習・推論アクセラレータ Gaudi 3。BF16 演算で 1,835 TFLOPS を達成し、NVIDIA H100 に対するコスト競争力のある代替として位置づけられる。

8ビット整数演算を使用したAI推論処理。従来の32ビット浮動小数点演算と比較して、4倍高速で消費電力を大幅に削減しながら、実用的な精度を維持。

Inference Engineは、人工知能・機械学習分野における重要な概念・技術です。

本番LLM推論エンジン比較。vLLM 0.7+ (PagedAttention・Continuous Batching・FP8・Speculative Decoding)・SGLang 0.4 (RadixAttention・Constrained Decoding)・HuggingFace TGI 3.0・TensorRT-LLM 0.18 (NVIDIA最強・FP8/INT8)・MLC LLM・LMDeploy 0.7・Ray Serve・vLLM AscendとIntel・Mistral.rs (Rust)・¥0 OSS、2026年vLLM企業デファクト。

Google DeepMindが提案した、圧縮メモリとローカルAttentionを組み合わせることで有限のメモリリソースで事実上無限長のコンテキストを処理する手法。従来のAttentionが保持するKVキャッシュを圧縮メモリに蒸留し、メモリ使用量を一定に保ちながら過去の情報にアクセスする。

2024年Munkhdalai et al. + Google発表Infini-Attention paper・Industry-leading Infinite Context Attention paradigm + Industry-leading compressive memory + Industry-emerging Infini-Attention Google Pioneer。

LLMに送信されるユーザープロンプトを事前検査し、プロンプトインジェクション・PII漏洩・禁止トピックなどの脅威を検出・遮断する入力側の防御機構。

2023年5月Inflection AI公開Pi。Pro 業界Pro Mainstream Empathic AI Top + Pro Mustafa Suleyman Pro CEO主導 + Pro 元DeepMind共同創設者 + Pro Reid Hoffman Pro Co-founder + Pro $1.3B Series B + Pro $4B Valuation + 2024-03 Pro Microsoft Inflection-2.5 $650M買収Pro Famous + 累計2022-2025年3年Heritage。

LLMが生成した引用（出典情報）が実際に正しいかを自動的に検証するプロセス。引用先URLの存在確認、引用先コンテンツと回答内容の整合性チェック、引用の網羅性評価などを含み、ハルシネーテッド・シテーション（架空の引用）を検出・排除する。