1978件の用語
Google DeepMindが開発した医療特化型LLM。PaLM 2をベースに医療データで調整し、USMLEで専門医レベルの86.5%を達成した医療QAの最高精度モデルの一つ。
ROMEを拡張し、LLMに数千〜数万件の事実を一括で書き込める大規模知識編集フレームワーク。複数のFF層に分散してRank-1更新を適用することでスケールを実現する。
AIによる自動整理機能を核とした、次世代のナレッジマネジメント・ツール。GPT-4oやClaude等のマルチLLMを活用し、ユーザーの手動操作なしにノート間の関連付けやタグ付けを行う「Self-Organizing Notes」を実現している。
2024年Mem Labs公開Mem.ai 2.0。Pro 業界Pro Mainstream AI Note-taking GPT-4 Mem Chat先駆 + Pro 米国SF Mem Labs + Pro 2022-Mem Labs設立Kevin Moody + Dennis Xu + Pro GPT-4 Mem Chat + Pro Auto-Tagging + Pro Smart Search + Pro $14.99/月 + 累計2022-2026年4年Heritage継承代表機。
2023年UC Berkeley公開MemGPT。Pro 業界Pro Mainstream OS-style LLM Memory業界先駆 + Pro 米国Berkeley UC Berkeley + Pro 1868-UC Berkeley設立 + Pro Charles Packer研究 + Pro Virtual Context Manager + Pro Self-Editing Memory + Pro Apache 2.0 OSS + 累計2023-2026年3年Heritage継承代表機。
2024年Mem0公開Mem0 OSS。Pro 業界Pro Mainstream LLM Memory Layer OSS Top + Pro 米国SF Mem0 + Pro 2023-Mem0設立Taranjeet Singh + Deshraj Yadav + Pro Y Combinator W24 + Pro Hierarchical Memory + Pro Apache 2.0 OSS + Pro 90%精度向上 + 累計2023-2026年3年Heritage継承代表機。
LLMエージェントに自動的な長期記憶管理を提供するOSSライブラリ。会話から重要情報を自動抽出・更新・削除し、複数LLMアプリケーションにわたる統一メモリ層として機能する。
MemoRAGは、単なる文書検索に基づくRAGに「記憶(Memory)」機構を組み込んだ技術です。対話履歴や過去の文脈情報を参照することで、より長く、複雑な質問に対しても一貫性のある回答を生成することを可能にします。
LLMに長期エピソード記憶と感情状態記録を付与する研究フレームワーク。ベクトル検索でユーザーとの過去会話を効率的に参照し、感情モデリングと組み合わせた長期パーソナルコンパニオンAIを実現する。
LLMにOSのような階層型メモリ管理を導入した研究フレームワーク。主記憶・外部ストレージ・会話履歴を統合し、長期対話コンテキストを保持したまま無制限の会話を実現する。
University of Maryland発のLLMウォーターマーク体系。KGWスキームを出発点とした理論的フレームワークで、LLMウォーターマーク研究の基盤となった。
勾配分解によりLLMの知識を高速編集するメタ学習ベースの手法。編集対象の勾配を低ランク分解してハイパーネットワークで変換することで、数ミリ秒での事実更新を実現する。
LLM が特定のテキストを学習データとして使用したかどうかを、モデルの出力確率を分析して推定する攻撃手法。プライバシー侵害・著作権侵害検証の両面で研究が進む。
2024年6月Together AI + Duke University発表MoA・Industry-leading multi-LLM ensemble + Industry-leading layered aggregator + Industry-leading beats GPT-4o on AlpacaEval + Industry-leading Together AI MoA Mixture of Agents multi-LLM aggregation framework 2024。
Databricks (米San Francisco・2013年Ali Ghodsi + Apache Spark UC Berkeley origin・Industry-leading data + AI platform brand・累計売上$2B+/year・$43B valuation 2024年) Mosaic Composer・Industry-leading PyTorch-based Multi-strategy Distributed Training framework・Databricks 2023年Mosaic ML $1.3B acquisition + MosaicML founders integration・Industry-leading multi-strategy training optimization + Industry-leading Open-source PyTorch ecosystem alignment + Industry-leading Databricks AI platform integration + Industry-leading commercial + Open-source dual deployment model。
Kyutai(フランス)が開発したリアルタイム双方向音声対話LLM。テキスト変換なしに音声を直接処理し、200ms以下のレイテンシで自然な会話を実現。
RAGパイプラインをSearch/Memory/Fusion/Routing/Predict/Taskの独立モジュールに分解し、タスクに応じて自由に組み合わせるアーキテクチャパターン。固定パイプラインより柔軟なシステム設計が可能。
2023年Modular (米Mountain View・2022年Chris Lattner創業・Industry-leading AI infrastructure startup) 発表Mojo language・Industry-emerging Python superset AI programming language・Industry-leading Python compatibility + Industry-leading systems-level performance + Industry-leading MLIR compiler stack foundation + Industry-leading Chris Lattner Swift + LLVM + MLIR Pioneer credibility backing + Industry-leading Industry-emerging AI programming language paradigm Pioneer。
Genmo AIが2024年10月に公開したオープンソース動画生成モデル。10Bパラメータ・AsyncDiTアーキテクチャで人体の動きと流体の表現品質が突出して高く、Apache 2.0ライセンスで商用利用可能。
Huawei Noahが提案するSFTデータ選定手法。モデルの現在の能力(PPLベース)を参照してデータの有益性を定量化し、代表的かつ困難なサンプルを優先選定する2024年のフレームワーク。