AI・機械学習
上級

Min-p サンプリング(ミンピーサンプリング)

2024年提案のLLMサンプリング手法。最高確率トークンのp値に係数を掛けた動的しきい値以下のトークンを除外する。Top-pより文脈適応的で高品質な出力を維持しつつ多様性を確保。

0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
LLM
サンプリング
デコーディング
Min-p
Nucleus Sampling

Min-p サンプリングとは

Min-p サンプリング(Minimum Probability Sampling)は、2024年にNguyen et al.が提案したLLMテキスト生成のためのデコーディング手法である。Top-p(Nucleus Sampling)の課題を解決する設計で、2024年中にllama.cpp・Ollama・KoboldCpp等のローカルLLMフレームワークに実装された。

Top-pの問題点

Top-p(Nucleus Sampling)は確率の累積がp_threshold(例0.9)に達するまでのトークンに絞るが、この固定しきい値に問題がある:高確信度文脈で過剰にトークンが残り、低確信度文脈で適切な候補が切り捨てられる。文脈適応性がない根本的な限界。

Min-pの仕組み

Min-pは最高確率トークン(p_max)を動的な基準点として使う:

min_threshold = min_p × p_max
候補トークン = {token | P(token) >= min_threshold}

高確信度文脈(p_max高い): しきい値が高くなり、ノイズトークンが排除される 低確信度文脈(p_max低い): しきい値が低くなり、多様なトークンが候補として残る

この自己適応性がMin-pの核心。

Top-p・Top-kとの比較

Top-k(固定件数・文脈適応なし)、Top-p(固定累積確率・文脈適応なし)、Min-p(p_max×係数の動的しきい値・文脈適応あり)。

実装パラメータ

推奨値: min_p = 0.05〜0.1(llama.cpp推奨)。0.05がバランスの取れた品質・多様性。llama.cppでは--min-p 0.05フラグで指定。

2025年の採用状況

Ollamaのデフォルトサンプリング設定にMin-pが採用。ローカルLLMユーザーコミュニティ(r/LocalLLaMA等)でTop-pの代替として広く普及。Anthropic・OpenAIのAPIへの公式採用は未定(2025年時点)。

この記事について
カテゴリーAI・機械学習
難易度上級
作成日2026/6/6