2990件の用語
事前学習LLM追加訓練。LoRA/QLoRA(低ランク)・Full Fine-Tuning・DPO/ORPO(選好最適化)・Axolotl・Unsloth 2026・Hugging Face TRL・OpenAI Fine-tuning API(GPT-4o mini)が代表、2026年はH200 80GB×8+vLLM+FSDP分散構成が標準、PEFT効率化進化。
開発者に特化したAI検索エンジン。コード生成、デバッグ、公式ドキュメントの横断検索を強みとし、プログラミングに関する複雑な質問に対して正確な回答とソースへのリンクを提供する次世代ツール。
LLMの回答を検証可能な外部事実ソースに「接地」させる技術。RAG・リアルタイム検索・知識グラフ統合などを通じ、生成内容の事実的根拠を担保する。
2022年Lee et al. (Meta AI+NVIDIA)発表FactualityPrompts・Industry-leading factuality prompts benchmark LLM + Industry-leading factual prompts benchmark + Industry-leading 16,000 Wikipedia prompts + Industry-leading NeurIPS 2022。
LLMの長文生成テキストをアトミックな事実命題に分解し、Wikipediaを参照してハルシネーション率を定量評価するフレームワーク（Min et al. 2023）。
2024年Factory公開Droid SWE Agent。Pro 業界Pro Mainstream Enterprise SWE Agent + Pro 米国SF Factory + Pro 2023-Factory設立Matan Grinberg + Eno Reyes + Pro Multi-Agent SWE + Pro PR自動作成 + Pro Linear/Jira統合 + Pro $20-100/月 + 累計2023-2026年3年Heritage継承代表機。
LLMの各Attentionヘッドが示すAttentionパターンの「タイプ」を適応的に識別し、ヘッドタイプに応じた最適なKVキャッシュ圧縮ポリシーを適用する手法。
TII (UAE) 2024年8月発表世界最大級 Pure Mamba LLM。7B パラメータ・5.5T トークン学習・Apache 2.0・無限長 context
UAE・Technology Innovation Institute（TII）が開発した純粋SSMアーキテクチャのLLM。Transformer層を含まず全層Mamba-2ブロックで構成された7Bモデルで、長文シーケンスの線形時間処理と低KVキャッシュを特徴とし、2024年公開。
OpenAIのfunction calling仕様と完全互換のオープンソースLLM。ツール呼び出しと通常応答を同一モデルで処理し、低レイテンシなエージェント構築を実現する。
LLMが自然言語の指示から適切な外部関数・APIを選択し、引数を構造化して呼び出す機能で、LLMと外部システムの連携を可能にする中核技術。
LLMが外部関数・APIを構造化パラメータで呼び出す仕組み。OpenAIが2023年6月に導入し、ツール連携の標準技術となった。
LLMが外部APIや関数を構造化された形式で呼び出す機能。モデルが自然言語の入力から適切な関数名と引数を推論し、JSON形式で出力することで外部システムとの連携を実現する。
Function Calling（Tool Use）とは、LLMが外部関数やAPIを呼び出すための構造化されたリクエストを生成する機能で、OpenAI Functions・Claude Tool Use・Gemini Function Callingなど各社が実装し、LLMエージェント開発の基盤技術となっている。
2024年Q2 Microsoft Research India + CMU共同発表vAttention paper・Industry-emerging KV cache virtualization paradigm・Industry-leading OS-level virtual memory management LLM inference KV cache optimization + Industry-emerging PagedAttention alternative + Industry-leading PyTorch + CUDA virtual memory management + Industry-emerging KV cache virtualization paradigm Pioneer・Industry-leading Microsoft Research India + CMU academic + Industrial integrated research foundation。
ByteDanceが開発したLLMの強化学習訓練フレームワーク。大規模分散環境でのGRPO・PPO等のRL訓練を効率化し、柔軟なモデル並列・データ並列構成でスループットを最大化する。
Feature Engineeringは、人工知能（AI）および機械学習分野において極めて重要な概念であり、技術です。モデルの精度とパフォーマンスを向上させるために不可欠な要素として認識されており、その重要性は日々高まっています。本稿では、Feature Engineeringの定義から種類、選び方、そしてトラブルシューティングまで、初心者から上級者まで理解できるよう詳細に解説します。
LLMの残差ストリームに特定の概念を表す方向ベクトル（特徴ベクトル）を加算/減算することで、モデルの出力を意図的に操作する手法。Anthropic SAE研究の実用応用。
LLMの推論時に特定の特徴ベクトルを活性化ベクトルに加算・減算することでモデルの出力を制御する手法。Mechanistic Interpretabilityで同定した特徴を操作することで、ファインチューニングなしにモデルの行動を変更できる。
ML Feature Store。Tecton.ai (Enterprise)・Feast 0.42 (FOSS+Tecton)・Hopsworks 4 (Logical Clocks・FOSS+Cloud)・Featureform・Vertex AI Feature Store (GCP)・SageMaker Feature Store (AWS)・Databricks Feature Store・Snowflake Feature Store・Iguazio Feature Store・¥0 OSS-¥¥¥¥¥¥/月・Online Serving・Offline Training Pipeline・Time Travel・Point-in-Time Correctness、2026年Feast+Hopsworks FOSS主流化。