AI・機械学習用語集

Anthropic Claude API高度機能。Prompt Caching(2024年8月-・cached input 90%割引・最低1024 token・5min cache・1h cache extended)・cache_control field(ephemeral type)・System prompt/Tools/Messages cache・Extended Thinking(Claude 3.7+/Opus 4.7・thinking budget設定 1k-32k token・推論時間scaling)・Visible thinking trace・Interleaved thinking(2025年・tool use間考察)・Batch API(50%割引・24h処理)・Files API(100MB upload)・Citations・Computer Use・2026年 caching必須でcost管理、Extended Thinking推論力倍増。

LLM APIで同一プレフィックスのKVキャッシュをサーバー側に保持し再利用するコスト削減技術。Anthropic・OpenAI・Google提供。

Anthropic Claude・OpenAI GPT-4o・Google Gemini・DeepSeek 等の主要LLMプロバイダが提供するプロンプトキャッシング機能の仕様・料金・制約を横断的に比較分析する。

複数のLLM呼び出しを直列に連結し、前段の出力を後段の入力として渡すことで、単一プロンプトでは困難な複雑なタスクを段階的に解決する手法。

入力シーケンス先頭に学習可能なソフトプロンプトトークンのみを追加してファインチューニングする最軽量 PEFT 手法。モデル重みは一切変更しない。

LLM の重みを固定したまま、入力に付加する学習可能な連続トークン（Soft Prompt）だけを最適化するパラメータ効率的なファインチューニング手法。Google Research が 2021 年に提案し、フルファインチューニングの 0.01% 未満のパラメータで同等性能を達成できることを示した。

LLM のパラメータ効率的ファインチューニング（PEFT）における 2 大手法の比較。Prompt Tuning は入力に Soft Prompt を追加する手法、LoRA は重み行列に低ランク分解の差分を追加する手法。タスク特性・モデルサイズ・運用要件に応じた使い分けが重要。

LLMへの入力プロンプトを再利用可能な雛形として定義したもの。変数プレースホルダーを含み、実行時に動的な値を埋め込んで完成したプロンプトを生成する。

プロンプトテンプレートエンジンとは、LLMへのプロンプトに変数・条件分岐・ループなどの動的要素を埋め込み、再利用可能なテンプレートとして管理・実行するソフトウェアコンポーネントである。LangChain PromptTemplate・Jinja2・Mustache・Handlebars などの実装があり、プロンプトのバージョン管理・A/Bテスト・本番運用を体系化する。

LLMアプリケーションにおけるプロンプトの構築過程・実行履歴・出力結果をリクエスト単位で追跡し、パイプライン全体のデバッグと最適化を可能にする手法。

プロンプト内在化（Prompt Internalization）とは、システムプロンプトやFew-shot例示に含まれる指示・知識・振る舞いパターンをモデルのパラメータに組み込み、推論時にプロンプトなしで同等の出力を再現する技術である。

プロンプトテンプレートの変更履歴をバージョン管理し、性能比較・ロールバック・A/Bテストを可能にする運用プラクティス。

2023年Ian Webster (元Cognition AI Devin Pre-Training Lead・元Discord/Google AI) 発表のPromptfoo・OSS CLIベースのLLM Application Evaluation framework。Y Combinator W23採択 (一部・Independent Project)・GitHub Star 5k+ (2024年Q4)・MIT License・YAML設定でPrompt vs Modelの自動Eval実行 (Custom Assertion/LLM-as-Judge/Cosine Similarity/Factuality等) + CI/CD統合 (GitHub Actions/GitLab CI) + Web UI Viewer・Red Team Security testing (Jailbreak/Prompt Injection検出)・OpenAI/Anthropic/Google/Llama/Ollama/Bedrock/Vertex AI/HuggingFace対応の Local-first LLMOps tool。

プロンプトテンプレート内に定義されるプレースホルダー。実行時に具体的な値（ユーザー入力・検索結果・設定値等）に置換され、動的なプロンプト生成を可能にする。

AI Prompt実例集。Anthropic Prompt Library(50+役立ちテンプレ・docs.anthropic.com)・Anthropic Cookbook(GitHub)・OpenAI Cookbook・OpenAI Prompting Guide・Llama 3 Prompt Guide(Meta)・Chain-of-Thought Examples・Few-shot Templates・Meta-Prompter(prompt optimize)・LangChain Hub・PromptHero・Awesome ChatGPT Prompts・System Prompt collection・2026年Claude Skill/Cursor ruleとして統合進行。

ユーザーの入力内容に応じて異なるシステムプロンプトやプロンプトテンプレートを動的に切り替える手法。単一のLLMエンドポイントで多様なタスクに対応しつつ、各タスクに最適化されたプロンプトで回答品質を最大化する。

複数の GPU ノードにまたがってバッチサイズを拡大し、LLM の学習を高速化する分散学習手法群の総称。データ並列・モデル並列・パイプライン並列を組み合わせた 3D 並列化により、数千〜数万 GPU でのスケーリングを実現する。All-Reduce 通信のボトルネック、ストラグラー問題、障害耐性がスケール限界を決定づけるため、ソフトウェアとネットワークの協調設計が不可欠である。

Tencentが2024年12月にリリースした13Bパラメータのオープンソース動画生成モデル。3D Causal VAE＋Dual-stream DiTで720p高品質動画をApache 2.0で提供する。

Chao et al.（2023、ETH Zurich）が提案したLLMを使って別のLLMをジェイルブレイクする手法。攻撃者LLM（Attacker）がターゲットLLMの応答を見てプロンプトを反復改良し、人手なしに有害出力を誘導するプロンプトを自動生成する。GCGと異なりgradient不要の黒箱攻撃。

2019年deepset公開Haystack。Pro 業界Pro Mainstream RAG Framework先駆 + Pro ドイツBerlin deepset + Pro Milos Rusic Pro Co-founder + Pro Python実装 + Pro Apache 2.0 + Pro Pipeline Architecture + Pro $30M Series B + 累計2018-2026年8年Heritage継承代表機。