P-Tuning v2（ピーチューニングブイツー）
全 Transformer 層のプレフィックスに学習可能なソフトプロンプトトークンを挿入する PEFT 手法。入力層のみに付与する初代 P-Tuning を全層に拡張した。
P-Tuning v2 とは
P-Tuning v2 は Liu et al.（清華大学・Microsoft Research Asia）が 2022年に発表した PEFT 手法。2021年の P-Tuning（v1）が持つ限界——プロンプトトークンを入力層にしか挿入しない——を克服するために、全 Transformer 層のプレフィックスに学習可能トークンを挿入する設計を採用した。
P-Tuning v1 の限界
P-Tuning v1 は GPT スタイルの大規模モデルで few-shot 性能を引き出すための手法として登場した。入力シーケンスの先頭に連続的な学習可能トークン（ソフトプロンプト）を付与するが、影響が伝播するのは入力層のみで、深い層への誘導が弱い。特に 1B 未満の小規模モデルや NLU タスクで full fine-tuning に及ばない場合が多かった。
P-Tuning v2 の設計
各 Transformer 層に独立した k 個のプレフィックストークンを付加する。プレフィックス長 k は通常 20〜100 トークン、各層のプレフィックストークンは独立したパラメータ（層をまたいだ共有なし）、モデル本体の重みはすべて凍結。
精度
論文の報告: SuperGLUE 平均で 330M モデルが full FT と ±0.5 ポイント以内、NER タスク (CoNLL-2003) で 7B モデルが full FT と同等の F1 を達成。100M 以下の小規模モデルでは依然 full FT に劣る場合あり。
Prefix Tuning との違い
Prefix Tuning (Li & Liang 2021) が MLP リパラメータライザで安定化するのに対し、P-Tuning v2 は直接最適化を採用。タスク対象も NLG のみから NLU/NLG 双方に拡張し、SuperGLUE 全タスク + NER で包括的に検証した点が貢献。
まとめ
P-Tuning v2 は「全層にソフトプロンプトを挿入することで小規模モデルでも PEFT が機能する」という重要な知見を提供した。7B 級モデルでの NLU タスクにおけるコスト効率の高いファインチューニング手段として現在も参照される。