2472件の用語
2024年Fu et al. (UCSD+Tsinghua)発表Lookahead Decoding・Industry-leading parallel n-gram speculative decoding LLM + Industry-leading lookahead branches + Industry-leading Jacobi decoding + Industry-leading 1.5-2× inference speedup no draft model。
2023年Q4 LMSys (UC Berkeley + UCSD + CMU + Stanford + MBZUAI共同・Industry-leading Open-source AI research community) 発表Lookahead Decoding paper・Industry-emerging Speculative-free decoding paradigm + Jacobi iteration parallel decoding paradigm Pioneer + Industry-emerging Industry-leading parallel decoding paradigm・Industry-leading LMSys Open-source AI research community foundation + Industry-leading vLLM integration。
2024年Chuang et al. (MIT+Microsoft)発表Lookback Lens・Industry-leading attention-based hallucination detection LLM + Industry-leading lookback ratio + Industry-leading attention analysis + Industry-leading context-grounded detection。
2024年Luma AI公開Dream Machine Video Generation。Pro 業界Pro Mainstream Realistic Diffusion Video先駆 + Pro 米国Palo Alto Luma AI + Pro 2021-Luma設立 + Pro 1080p 5s/Loop + Pro Diffusion + Pro Free + $29.99-99.99/月 + Pro Photon統合 + 累計2021-2026年5年Heritage継承代表機。
macOS用ランチャーアプリ「Raycast」に統合されたAI機能群。複数の最新LLMをシームレスに切り替え、テキスト生成や翻訳、コード変換などの高度なタスクをワークフロー内で直接実行できるAIエージェント的ツール。
2024年Anyscale発表Ray Serve v2.30+・Industry-leading distributed serving Python + Industry-leading Ray cluster scalability + Industry-leading multi-model deployment + Industry-leading Apache 2.0 Anyscale distributed Python serving framework。
Anyscale (米San Francisco・2019年Robert Nishihara + Philipp Moritz + Ion Stoica (UC Berkeley)・Ray Open-source distributed computing framework創業) 発表Ray Train・Industry-leading multi-node Distributed Training library・Ray Open-source distributed computing framework integration + Industry-leading Multi-node scaling + Industry-leading Cloud + On-premise multi-node deployment + Industry-leading Distributed Training framework agnostic (PyTorch + TensorFlow + JAX + Hugging Face + 多 framework agnostic Distributed Training integration)・Industry-leading Multi-node Distributed Training framework Pioneer position確立。
ニューラルネットワークの各層において、単一サンプル内の全ニューロンの活性化値を正規化する手法。Ba et al.（2016）が提案し、Transformerアーキテクチャの標準的な正規化手法として広く採用されている。バッチサイズに依存しない点がBatch Normalizationとの最大の違い。
Layer Normalization（LayerNorm）は、ニューラルネットワークの各層で特徴量をサンプル単位に正規化する手法であり、Transformer ベースの大規模言語モデル（LLM）で事実上の標準正規化として広く採用されている。Batch Normalization がバッチ方向に統計量を計算するのに対し、LayerNorm は単一サンプル内の全特徴次元にわたって平均・分散を計算するため、バッチサイズに依存せず系列長が変動する自然言語処理タスクに適している。
2022年Leonardo Interactive公開Leonardo AI。Pro 業界Pro Mainstream Game Asset AI Image Top + Pro オーストラリアSydney Leonardo + Pro JJ Fiasson Pro CEO + Pro Game Asset特化 + Pro Phoenix/Lucid/Anime XL Models + Pro $31M Series A → Pro Canva買収 + 累計2022-2026年4年Heritage継承代表機。
LexisNexis社が提供するAI法律調査プラットフォーム。LexisNexisの膨大な判例・法令・規制データベースと生成AIを統合し、自然言語での法律調査・文書ドラフト・要約を実現する。ハルシネーション防止のためソース引用リンクを全回答に付与するHallucination Guard機能搭載。
LLMが数学定理を小さな補題（レゴブロック）に分解して形式証明システム（Lean/Isabelle）で検証しながら累積的知識ライブラリを構築する自動定理証明フレームワーク。
2023年Song et al. (Tsinghua)発表RestGPT・Industry-leading RESTful API control LLM + Industry-leading online planner + Industry-leading TMDB+Spotify integration + Industry-leading RESTful API instruction following。
2024年Anthropic + Princeton共同発表REST paper・Industry-emerging Retrieval-Based Speculative Decoding paradigm + Industry-leading datastore retrieval-based draft token + Industry-leading no draft model training-free Industry-emerging paradigm Pioneer + Industry-leading Anthropic + Princeton integrated research foundation。
欧州法律文書に特化した複数の事前学習済み言語モデル群。EU法令・ECHR判例・各国法律文書で訓練され、欧州法体系の分析に最適化されている。
2024年Letta公開Letta(MemGPT後継)。Pro 業界Pro Mainstream Stateful AI Agent商用化 + Pro 米国Berkeley Letta + Pro 2024-Letta設立Charles Packer元UC Berkeley + Pro Stateful Agent + Pro MemGPT後継 + Pro Apache 2.0 OSS + Pro Letta Cloud SaaS + 累計2023-2026年3年Heritage継承代表機。
OpenAIが2023年に発表したPRM（Process Reward Model）の有効性を実証した論文。LLMの数学推論において最終回答ではなく各推論ステップを評価するリワードモデルが大幅な精度改善をもたらすことを初めて大規模に示した。
2022年Ganguli et al. (Anthropic+Meta+OpenAI)発表Red Teaming LLM・Industry-leading adversarial testing LLM safety + Industry-leading red teaming standard + Industry-leading harmful output discovery + Industry-leading systematic red teaming methodology。
Retentive Networkの略で、Microsoftが2023年に提案したTransformer代替アーキテクチャ。並列学習・リカレント推論・チャンク並列推論の3つの計算モードを切り替え可能で、学習はTransformer同等の並列性、推論はRNN同等の効率性を実現する。
2023年Together AI共同発表RedPajama・Industry-leading Open-Source LLM Training Dataset・Industry-leading 1.2T tokens v1 + 30T tokens v2 + Industry-leading LLaMA replication paradigm + Industry-leading Together AI Industry-emerging Open-source dataset Pioneer。