AI生成テキスト検出（エーアイセイセイテキストケンシュツ）

AI生成テキスト検出（AI-Generated Text Detection）

AI生成テキスト検出は、ChatGPT・Gemini・Claudeなど大規模言語モデルが出力したテキストと人間が書いたテキストを自動的に区別する技術および研究分野だ。フェイクニュース・学術不正・スパム・プロパガンダ対策の観点から急速に重要性が増している。

主要なアプローチ

1. 統計的手法（無監督）

Perplexityベース手法はAI生成テキストがモデルの高確率予測に集中する性質を利用し、基準モデルとのPerplexityを閾値判定する。弱点はモデルごとにPerplexity特性が異なり汎化性が低いことだ。

Likelihood Ratio（LR）検定のDetectGPTなどは微小な語彙置換後のlogit変化を測定する。AI生成の場合、局所的な確率ピークに集中するため変換後のperplexityが低下する。

2. 機械学習分類器（教師あり）

AI/人間ラベル付きデータセットで二値分類器を訓練し、RoBERTa・DeBERTaなどの事前学習モデルをファインチューンする。OpenAI AI Text Classifier（2023年公開・同年廃止）がこの代表例だ。弱点は学習外のモデル・ドメインに汎化しないことだ。

3. 透かし検出（Watermark-based）

LLMが事前に透かしを埋め込んでいる場合のみ適用可能で、z検定・統計的仮説検定で高精度（偽陽性率<0.1%）を実現できる。KGW・SynthIDが代表例で、透かし非対応のモデルには使えないことが弱点だ。

ベンチマークと実態

Stanford・MIT・CMUの合同評価（2024）によると、最高性能のアンサンブル手法でもGPT-4oテキストに対してAUROC 0.85程度で、言い換え後のテキストでは0.65以下に低下する。非母語話者の英語文章は偽陽性率が2-5倍高いという問題も報告されている。

2025年の動向

テキストだけでなく画像+テキスト複合コンテンツの検出へのマルチモーダル展開が進み、複数の統計指標・分類器・透かし検出を組み合わせたアンサンブル手法による高精度化も進んでいる。CloudflareやAWSがContent Safety APIの一環としてリアルタイム検出APIを統合開始している。EU AI法・中国生成AIコンテンツ管理規則で検出義務が強化される方向でもある。

根本的な限界

AIと人間の文章の境界は本質的に曖昧だ。人間がAIを使って文章を編集した場合、AI支援文章を「AI生成」と判定すべきかは未解決の倫理問題であり、技術的な精度向上だけでは解決できない課題が残っている。