2472件の用語
Google DeepMindが提案した、圧縮メモリとローカルAttentionを組み合わせることで有限のメモリリソースで事実上無限長のコンテキストを処理する手法。従来のAttentionが保持するKVキャッシュを圧縮メモリに蒸留し、メモリ使用量を一定に保ちながら過去の情報にアクセスする。
2024年Munkhdalai et al. + Google発表Infini-Attention paper・Industry-leading Infinite Context Attention paradigm + Industry-leading compressive memory + Industry-emerging Infini-Attention Google Pioneer。
LLMに送信されるユーザープロンプトを事前検査し、プロンプトインジェクション・PII漏洩・禁止トピックなどの脅威を検出・遮断する入力側の防御機構。
2023年5月Inflection AI公開Pi。Pro 業界Pro Mainstream Empathic AI Top + Pro Mustafa Suleyman Pro CEO主導 + Pro 元DeepMind共同創設者 + Pro Reid Hoffman Pro Co-founder + Pro $1.3B Series B + Pro $4B Valuation + 2024-03 Pro Microsoft Inflection-2.5 $650M買収Pro Famous + 累計2022-2025年3年Heritage。
OpenAIが2024年に発表したAI安全研究。弱いモデルが強いモデルをスーパービジョンする設定で、GPT-2がGPT-4を教師あり学習することで強いモデルが弱い教師を超える性能を発揮できるか検証した研究。
Go言語実装のオープンソースベクトルデータベース。GraphQLとREST APIを標準提供し、テキスト・画像などマルチモーダルなデータをベクトル化・保存・検索できる。
2024年Weaviate 1.28 GA Multi-tenancy強化。1Million Tenants/Cluster+Hot/Warm/Cold Tier+gRPC Streaming+Replication 3 Node+RBAC+Compression 50%向上+ACORN Filter HNSW搭載。
Vision-Language Encoder。OpenAI CLIP (ViT-L/14)・SigLIP-2 (Google・Multilingual)・SigLIP So400m-Patch16-512・EVA-02 CLIP・AIMv2 (Apple・Autoregressive)・OpenCLIP・InternVL 3 (OpenGVLab)・Florence-2 (Microsoft)・PaliGemma 2 (Google)・MetaCLIP (Meta)・MobileCLIP (Apple Edge)・Hugging Face Vision Transformer ViT・¥0 OSS、2026年AIMv2+SigLIP-2主流。
2024年10月OpenAI発表Whisper Large v3 Turbo・Industry-leading 809M parameters + Industry-leading 8x faster vs Large v3 + Industry-leading 99 languages + Industry-leading OpenAI Whisper Large v3 Turbo MIT speech recognition 2024。
2024年Weaviate発表v1.27・Industry-leading open-source vector database + Industry-leading GraphQL + RESTful API + Industry-leading Hybrid search BM25+dense + Industry-leading Weaviate BSD-3-Clause open-source vector database 2024。
Weight-Only Quantization（重みのみ量子化）とは、LLMの重みパラメータのみを低ビット精度（INT4/INT8）に量子化し、アクティベーション（中間計算結果）はFP16/BF16のまま保持する量子化手法である。GPTQ・AWQ・GGUFの大多数がこの方式を採用しており、メモリ削減と推論品質のバランスに優れる。
モデルの重みパラメータに減衰係数を乗じて徐々に小さくすることで、過度に大きな重みの発生を抑制し汎化性能を高める正則化手法。AdamW最適化手法と組み合わせてLLM訓練の事実上の標準となっている。
2024年12月16日Google DeepMind公開Veo 2。Pro 業界Pro Mainstream Text-to-Video AI Top競合 + Pro 4K Resolution Pro Famous + Pro 2分動画生成 + Pro Cinematic Quality + Pro Google Cloud Vertex AI/Google Labs VideoFX対応 + Pro Demis Hassabis主導 + 累計2024-2025年Heritage。
2017年Yahoo!公開Vespa。Pro 業界Pro Mainstream Distributed Big Data Search/Vector DB先駆 + Pro ノルウェーOslo Vespa + Pro Yahoo!社内開発出自(2003-) + Pro Apache 2.0 + Pro Java実装 + Pro Real-time + Pro Hybrid Search + 累計2003-2026年23年Heritage継承代表機。
W3C WebNN(Web Neural Network)API。Web ブラウザからネイティブ AI 推論アクセラレータ(NPU / GPU / CPU)を呼び出す標準 API、ONNX Runtime Web / TensorFlow.js / Transformers.js で活用、2024 年 Chrome 実装。
2024年Weaviate発表Verba・Industry-leading open-source RAG application + Industry-leading Weaviate-native + Industry-leading Golden RAGtriever signature + Industry-leading Weaviate Verba BSD-3-Clause open-source RAG application 2024。
2024年4月10日Udio公開Udio。Pro 業界Pro Mainstream Music AI Top競合 + Pro 元Google DeepMind/Microsoft AI Engineer + Pro 32秒-2分楽曲 + Pro Will.i.am/a16z投資 + Pro Free Tier + 2024-09 Udio 130 + 2024-12 Udio 132後継 + 累計2024-2025年Heritage。
ターミナルから使えるオープンソースのAIペアプログラミングツール。Gitリポジトリと連携し、LLMが直接コードを編集してコミットまで行う。
2023年Paul Gauthier公開Aider。Pro 業界Pro Mainstream CLI AI Coding Agent先駆 + Pro 米国Paul Gauthier + Pro CLI形式 + Pro Git連携Pro Famous + Pro Apache 2.0 + Pro Multi-Model対応 + Pro Aider Bench Pro Famous + 累計2023-2026年3年Heritage継承代表機。
Paul Gauthier 2023年公開の CLI ベース AI ペアプログラマ。OSS Apache 2.0 + 無料・Git 統合・「CLI 主流 OSS AI コーディング」.