AI・機械学習用語集

Kyutai（フランス）が開発したリアルタイム双方向音声対話LLM。テキスト変換なしに音声を直接処理し、200ms以下のレイテンシで自然な会話を実現。

RAGパイプラインをSearch/Memory/Fusion/Routing/Predict/Taskの独立モジュールに分解し、タスクに応じて自由に組み合わせるアーキテクチャパターン。固定パイプラインより柔軟なシステム設計が可能。

2023年Modular (米Mountain View・2022年Chris Lattner創業・Industry-leading AI infrastructure startup) 発表Mojo language・Industry-emerging Python superset AI programming language・Industry-leading Python compatibility + Industry-leading systems-level performance + Industry-leading MLIR compiler stack foundation + Industry-leading Chris Lattner Swift + LLVM + MLIR Pioneer credibility backing + Industry-leading Industry-emerging AI programming language paradigm Pioneer。

複数モダリティの入力を単一Transformerで統合処理するアーキテクチャ。Early/Late/Hybrid Fusionの三方針がある。

Genmo AIが2024年10月に公開したオープンソース動画生成モデル。10Bパラメータ・AsyncDiTアーキテクチャで人体の動きと流体の表現品質が突出して高く、Apache 2.0ライセンスで商用利用可能。

Huawei Noahが提案するSFTデータ選定手法。モデルの現在の能力（PPLベース）を参照してデータの有益性を定量化し、代表的かつ困難なサンプルを優先選定する2024年のフレームワーク。

LLM への API クエリを通じて学習データの一部や個人情報を再構成する攻撃手法。モデルの出力確率や反復クエリを利用して、学習時に使われたプライベートテキストを漏洩させるリスク。

学習済みMLモデルやLLMに推論リクエストを送信するためのAPIエンドポイント（URL）。クラウドサービス（AWS SageMaker、GCP Vertex AI、Azure ML）が提供するマネージドエンドポイントと、vLLM/TGI等で構築するセルフホストエンドポイントの2種類がある。OpenAI互換APIフォーマット（/v1/chat/completions）が事実上の標準。

MLモデルの内部状態・推論プロセス・データフローを外部から把握可能にする設計原則。ログ・メトリクス・トレースの3本柱でモデル動作を透明化する。

Anthropic策定AIエージェント-ツール接続規格(MCP・2024年11月)。JSON-RPC 2.0 over stdio/HTTP/SSE・Resources/Tools/Promptsの3抽象・Server/Client/Host構造、Claude Desktop・VS Code Cursor・Windsurf・Cline・Amp・Zed Agent・Warp 2が2026年MCP対応、OpenAI Connectors・Gemini Extensionsも共通採用。

Model Context Protocol（MCP）とは、Anthropicが2024年に公開したオープン標準プロトコルで、LLM（大規模言語モデル）アプリケーションと外部データソースやツールを標準化された方法で接続するための仕様である。

Model Compressionは、人工知能（AI）および機械学習分野において注目されている技術です。深層学習モデルの普及に伴い、その規模は爆発的に増加しており、推論に必要な計算資源やメモリ容量も増大しています。Model Compressionは、このような課題を解決し、AIモデルの効率的な運用を実現するためのキーテクノロジーとして登場しました。本稿では、Model Compressionの基

ML Model Serving。NVIDIA Triton Inference Server (Multi-Framework・TensorRT/PyTorch/ONNX)・TorchServe (PyTorch Native Maintenance)・BentoML 1.3+ (Python Native)・Cog (Replicate)・Ray Serve・Seldon Core 2.x・KServe 0.13 (Knative Native)・MLflow Models・vLLM Production Stack・Modal Function・Cloudflare Workers AI・¥0 OSS-¥¥¥¥¥/月、2026年BentoML+Cog急成長。

学習済みのMLモデルやLLMをAPIエンドポイントとして公開し、リアルタイム推論リクエストを処理するインフラストラクチャ。バッチ推論とは異なり、低レイテンシ（数十ms〜数秒）で逐次リクエストに応答する。vLLM、TGI、Triton Inference Server、BentoML等のサービングフレームワークが主流。

大規模モデルのパラメータを複数のデバイス（GPU/TPU）に分割して配置し、単一デバイスのメモリ容量を超えるモデルの学習・推論を可能にする分散処理技術。

大規模な教師モデルの知識を小さな生徒モデルに転移させる技術。推論コストを大幅に削減しつつ教師モデルに近い性能を維持でき、エッジデバイスへのデプロイに不可欠。

小型LLM構築技術。Knowledge Distillation(Teacher-Student)・SLM(Small Language Model・1-7B param)・Phi-4 Mini 3.8B(Microsoft・2025年)・Qwen2.5 1.5B/3B・Llama 3.2 1B/3B・Gemma 3 1B/4B・MiniCPM 3 4B・SmolLM2 1.7B(HuggingFace)・TinyLlama・Mistral 7B・DeepSeek R1 Distill 8B・Teacher-forced sampling・Reasoning Distillation、2026年Edge+モバイル定着。

同一ベースモデルを異なるハイパーパラメータでファインチューニングした複数モデルの重みを単純平均するアンサンブル手法。Wortsman et al. 2022が提案。個別モデルよりも汎化性能が高く、単一推論コストで複数モデル相当の性能を実現できる。

LLMの性能を定量的に測定・比較するプロセス。ベンチマーク（MMLU、HumanEval等）による自動評価、人間評価（Chatbot Arena等）、タスク固有評価（RAG品質、コード生成精度等）の3層で構成される。モデル選定・ファインチューニング・プロンプト最適化の意思決定基盤となる。

LLMプロバイダの障害・レート制限・タイムアウト発生時に、事前定義された優先順位に従って代替モデルへ自動切替するルーティング戦略。サービスの可用性を99.9%以上に維持するための基本的な耐障害設計。