Paraphrase Generation（言い換え生成）（パラフレーズジェネレーション）

Paraphrase Generation（言い換え生成）とは

Paraphrase Generation は、入力テキストの意味（semantics）を保持しながら、異なる語彙・構文・表現で同じ内容を言い換える技術である。自然言語処理（NLP）の古典的課題であるが、LLM 時代ではファインチューニングデータの多様化、評価データの拡張、テキスト正規化など多くの応用が広がっている。

Back-Translation がソース→ターゲット→ソースの「翻訳の揺らぎ」を利用するのに対し、Paraphrase Generation は単一言語内で直接的に表現を書き換えるため、意味保持の精度が高い。特に T5（Text-to-Text Transfer Transformer）の登場以降、事前学習モデルベースの高品質パラフレーズ生成が実用化された。

主要なアプローチ

ルールベース手法

モデルベース手法

制御可能パラフレーズ

近年では、言い換えのスタイルを制御する手法が発展している。

• 形式度制御: カジュアル ↔ フォーマルな表現への変換（例：「すごい」→「顕著である」）
• 簡略化: 専門文を平易な表現に書き換える（Simplification）
• 複雑化: 平易な文を学術的・専門的な表現に書き換える（Complexification）
• 長さ制御: 指定された文字数範囲内でのパラフレーズ生成
• 語彙制約: 特定の単語を必ず含む/含まないパラフレーズの生成

評価指標

パラフレーズの品質は以下の指標で評価される。

• BERTScore: 原文と生成文の BERT embedding のコサイン類似度。0.90 以上が高品質
• BLEU: n-gram の一致率。パラフレーズでは多様性とのトレードオフがあるため 35-50 が適正範囲
• Self-BLEU: 生成パラフレーズ群の内部多様性を測定。低いほど多様
• Semantic Textual Similarity（STS）: 0-5 スケールの意味類似度。4.0 以上を推奨
• 人手評価: 意味保持度（Adequacy）と流暢性（Fluency）の5段階評価が最終判定

LLMデータ拡張での活用パターン

1. テキスト分類の訓練データ拡張: 各クラスのサンプルを3-5倍にパラフレーズ拡張し、クラス不均衡を解消
2. Instruction Tuning データの多様化: 同一タスクの指示文を複数バリエーション生成し、指示追従の汎化性能を向上
3. 評価データのリーク防止: テストセットの言い換え版を作成し、訓練データとの重複による過大評価を防止
4. ドメイン適応: ソースドメインのデータをターゲットドメインの語彙・スタイルに言い換えて転移学習を促進
5. 対照学習のポジティブペア生成: 原文とパラフレーズをポジティブペアとして対照学習のembedding品質を向上

よくある質問（FAQ）

Q1: Paraphrase と Back-Translation のどちらが品質が高いですか？ A: 意味保持の精度では Paraphrase が優る（BERTScore 0.93 vs BT の 0.88 程度）。一方、表現の多様性では Back-Translation が優る。最良の結果は両手法の組み合わせで得られ、パラフレーズで意味精度の高い拡張 + BT で多様性を補完する構成が推奨される。

Q2: パラフレーズ生成の処理速度は？ A: T5-base で GPU（A100）使用時に約 500 文/分、GPT-4 API 経由で約 100 文/分（レート制限依存）。10万文のデータセットを3倍拡張する場合、T5-base で約10時間、GPT-4 API で約50時間+$300-500のコスト。

Q3: 日本語のパラフレーズ生成に最適なモデルは？ A: 日本語特化では mT5-base のパラフレーズファインチューニング版が実績豊富。高品質を求めるなら GPT-4o や Claude 3.5 Sonnet の日本語パラフレーズ能力が最も高い。JParaCrawl（1,000万ペア）を活用した fine-tuning も有効。

まとめ

• Paraphrase Generation は単一言語内で意味保持しながら表現を多様化する技術
• T5/PEGASUS ベースのモデルが実用的、最高品質は GPT-4/Claude
• 制御可能パラフレーズ（形式度・長さ・語彙制約）が研究の最前線
• BERTScore 0.90 以上が高品質パラフレーズの目安
• Back-Translation との組み合わせで相補的な多様性を実現