LLMテキスト電子透かし（エルエルエムテキストデンシスカシ）

LLMテキスト電子透かし（LLM Text Watermarking）

LLMテキスト電子透かしは、大規模言語モデルが生成したテキストに人間には知覚できない統計的パターンを埋め込み、後から機械的に出所を検証できるようにする技術だ。AI生成コンテンツの普及に伴い、学術不正防止・フェイクニュース対策・著作権管理など多様な場面で注目されている。

動作原理

最も影響力ある手法はKirchenbauer et al.（2023）のKGW（Kirchenbauer-Geiping-Wen）透かしだ。仕組みは以下の通り：

1. トークン分類: 語彙全体を「グリーンリスト」と「レッドリスト」に分割（分割はシード値とコンテキストトークンで決定）
2. 確率操作: 生成時にグリーントークンのlogitにδ（例: 2.0）を加算し選択確率を上昇
3. 検出: 生成済みテキスト中のグリーントークン比率をz検定で評価。有意に高ければ透かし付きと判定

主要な透かし手法

スコアベース手法

• KGW: トークンハッシュでグリーン/レッド分類。実装簡単だが語彙操作への攻撃に弱い
• Aaronson（Exponential Sampling）: 乱数シードで各トークン位置の選択を歪める。理論的根拠が強固

意味論的手法

• SemStamp: 文をセマンティック空間でクラスタリングし、特定クラスタに属する文を優先生成
• MPAC: メッセージを段落構造に符号化。より高い情報容量

品質への影響

透かし強度（δ値）とテキスト品質はトレードオフだ。δ=2.0では人間評価で軽微な品質低下が観測される一方、δ=1.0ではほぼ無劣化だが検出精度が下がる。

攻撃と堅牢性

透かしへの攻撃手法も研究が進んでいる：

• 言い換え攻撃: 同義語置換でトークン分布を変化させる（KGWは弱い）
• コピーパースト攻撃: 透かし無しテキストと混合
• トークン置換: グリーントークンをレッドに変換

これに対しSynthIDやKGW+は文脈依存ハッシュで堅牢性を向上させている。

Googleの取り組み：SynthID

GoogleはGemini用のSynthID-Textを2024年に公開した。特徴：

• 複数のトーナメントサンプリング層を組み合わせ
• 品質低下をほぼゼロに抑制
• テキスト編集・翻訳に対して一定の堅牢性

実用上の課題

• 短文検出精度: 数十トークン未満では統計的有意性が低く誤検出増加
• 多言語対応: 言語ごとにグリーンリスト再構築が必要
• 悪用リスク: 検出回避のため透かし仕様を非公開にする必要があり、オープン性とのジレンマ
• 法的地位: 電子透かし付きテキストの法的証拠能力は各国未整備

今後の展望

OpenAI・Anthropic・Google DeepMindは2025年以降、商用モデルへの透かし標準化を議論している。EU AI法では高リスクAIに対するコンテンツ識別義務が含まれており、LLM透かしはコンプライアンスツールとして制度化が進む見込みだ。