2990件の用語
2020年deepset発表Haystack・Industry-leading production-ready NLP+RAG framework + Industry-leading German enterprise + Industry-leading Pipeline architecture + Industry-leading Haystack production NLP+RAG framework 2020+。
2024年deepset発表Haystack 2.0・Industry-leading production-ready RAG pipelines + Industry-leading pipeline-first design + Industry-leading deepset Cloud SaaS + Industry-leading deepset Haystack Apache 2.0 production-ready RAG framework 2024。
2023年Nakajima発表BabyAGI・Industry-leading minimal LLM agent framework + Industry-leading task management loop simple + Industry-leading 19k+ GitHub stars + Industry-leading Python script <200 lines minimalist。
2024年成熟BabyAGI・Industry-leading task-driven autonomous agent + Industry-leading task creation+prioritization+execution loop + Industry-leading 19,000+ GitHub stars + Industry-leading Yohei Nakajima BabyAGI MIT task-driven autonomous agent 2024。
Yohei Nakajima 2023年4月発表自律 AI Agent。Task Queue + 自己創造で AutoGPT の代替・140 行 Python・GitHub 21k
LLMが1回のレスポンスで複数のツール呼び出しを同時に指示し、アプリケーション側で並列実行することで応答時間を短縮する最適化技術。独立したツール呼び出しを逐次実行する無駄を排除する。
vLLMが提案したKVキャッシュのメモリ管理手法で、OSの仮想メモリページング方式を応用して固定サイズブロックでK/Vを管理し、メモリフラグメンテーションを解消する技術。
LLM推論時のKVキャッシュをOSの仮想メモリ管理と同様のページング方式で管理するアルゴリズム。非連続な物理メモリブロックにKVキャッシュを分散配置することで、メモリ断片化を解消しVRAM利用効率を最大4倍改善する。
KVキャッシュをOSの仮想メモリのようにページ単位で管理し、メモリ断片化を解消してGPUメモリ利用効率を最大化するLLM推論技術。vLLMが初めて実装した。
vLLMが2023年に提案したLLM推論のためのKVキャッシュ管理手法。OSの仮想メモリ・ページングと同じ原理でKVキャッシュをブロック単位で管理し、メモリの断片化を排除してGPU VRAM利用率を最大化する技術。
LLMの自己回帰生成で蓄積されるKVキャッシュをOSのページング方式で管理する技術。非連続メモリブロックに分散配置することでVRAMの断片化を解消し、同時処理できるシーケンス数を最大化する。
Stanford Hazy Researchが2024年に発表した線形注意+Short Convolutionのハイブリッドアーキテクチャ。Taylor Soft-Maxによる近似とRecall-Throughputトレードオフ分析が特徴。
Stanford HAIが開発したTaylor展開ベースの線形アテンション近似モデル。短距離畳み込みと組み合わせてFlashAttentionに近い推論速度を実現するハイブリッドアーキテクチャ。
Vector Database SaaS。Pinecone Serverless (¥¥¥/M Vector)・Weaviate Cloud Service WCS・Zilliz Cloud (Milvus商用)・Qdrant Cloud (¥¥¥¥¥¥/月)・Marqo Cloud・Turbopuffer (Cloud Native S3+Object Storage)・LanceDB Cloud・MongoDB Atlas Vector Search・PostgreSQL+pgvector Cloud (Neon/Supabase/Aiven)・Cloudflare Vectorize・Upstash Vector・¥0 OSS Self-Host-¥¥¥¥¥/月、2026年Turbopuffer S3 Native急成長。
Vector Database。Qdrant($0 OSS・Rust・HNSW・Cloud $25/mo・1.10+ 2024年)・Weaviate(GraphQL API・Python/Go)・Milvus(LF AI・Distributed・Zilliz Cloud)・Pinecone(SaaS・$0 starter・$70/mo・Serverless)・Chroma(in-memory Python)・LanceDB(Rust・Embedded)・pgvector(Postgres extension)・Redis Vector・MongoDB Atlas Vector Search・SurrealDB Vector・MeiliSearch hybrid search・Elasticsearch+Dense Vector・2026年 Qdrant + pgvector主流、RAG essential infra。
Vector DBプラットフォーム比較。Qdrant 1.13+ (Rust・gRPC/HTTP)・Weaviate 1.28・Milvus 2.5 (Zilliz Cloud)・Chroma 0.5・LanceDB 0.18 (Rust+Apache Arrow)・pgvector 0.8 (Postgres Extension)・Pinecone Serverless・Vespa 8・Marqo・Turbopuffer (Cloud Native)・Qdrant Hybrid Search・¥0 OSS、2026年Hybrid+Reranking標準。
画像・テキスト・音声を多次元数値ベクトルに変換したデータ。AI 検索・類似度比較・レコメンド・RAG（Retrieval-Augmented Generation）の基盤として使われる。
高速近似最近傍探索データ構造。HNSW(Hierarchical Navigable Small World)・IVF(Inverted File)・IVFPQ・DiskANN(Vamana)・ScaNN(Google)・LSH・Annoy(Spotify)・FAISS(Meta)が代表、Qdrant/Weaviate/Pinecone/Milvus/pgvector実装、recall 95%+@10k-100M規模スケール。
高次元の埋め込みベクトルを格納し、近似最近傍探索（ANN）を用いて高速な類似度検索を実現するデータベース。LLMを用いたRAGやセマンティック検索の基盤技術として、現代のAIアプリケーション開発において不可欠な役割を担う。
テキスト・画像の埋め込みベクトルを高速検索するためのQdrant・Pinecone等の専用DB