Legal-PEGASUS(リーガルペガサス)
法律文書の長文要約に特化したトランスフォーマーモデル。判例・契約書・法令を数段落に圧縮する抽出・生成型の要約AIとして機能する。
Legal-PEGASUS とは
Legal-PEGASUSはGoogleが2020年に発表したPEGASUS(Pre-training with Extracted Gap-sentences for Abstractive Summarization)を法律文書向けにファインチューニングした要約特化モデル。
PEGASUSのアーキテクチャ
GSG(Gap Sentence Generation)
PEGASUSの核心はGSGと呼ばれる独自の事前学習手法。文書内の重要な文を「ギャップ」として除去し、モデルに予測させることで要約能力を事前学習段階から習得させる。
原文: 「被告は...違反した。裁判所は...と判断した。[ギャップ]。よって原告の請求は認められる。」
GSGタスク: [ギャップ]部分 = 「損害賠償額は○○万円と算定される」を予測
この手法が法律文書の「判旨」抽出(判決の核心的理由付け部分の要約)と本質的に一致するためLegal分野との相性が良い。
Legal-PEGASUSのファインチューニングデータ
| データセット | 内容 | 規模 |
|---|---|---|
| BillSum | 米国連邦議会法案 + 要約 | 約23,000件 |
| MultiLexSum | 法律文書多粒度要約 | 約40,000件 |
| PLAIN | 特許文書 + 平易要約 | 約1.2万件 |
| CaseLaw | 判例 + 裁判所作成ヘッドノート | 約200万件 |
CaseLawデータセットでは裁判所が作成した公式ヘッドノート(判決のポイントを箇条書きした公式サマリー)を教師データとして使用。これにより法律的に正確な要約が学習される。
性能評価(ROUGEスコア)
BillSum(法律法案要約)での比較
| モデル | ROUGE-1 | ROUGE-2 | ROUGE-L |
|---|---|---|---|
| Legal-PEGASUS | 58.3 | 38.7 | 50.9 |
| PEGASUS(法律未特化) | 52.1 | 33.4 | 45.8 |
| BERTSum | 47.6 | 28.5 | 41.2 |
| GPT-3.5(Zero-shot) | 44.8 | 26.3 | 39.4 |
Legal-PEGASUSは一般PEGASUSを全指標で約6ポイント上回る。
法律要約の3つの粒度
1. ヘッドノート生成(100〜200字)
判例の核心を1〜3文で表現。検索インデックス・引用時に使用。
2. 執行要約(Executive Summary, 500〜1000字)
M&A契約書・法規制文書のビジネスサマリー。法律の素人(経営者)向け。
3. 詳細要約(Detailed Summary, 1000〜3000字)
判例の事実関係・争点・判旨・結論を構造化して要約。法律専門家向け。
Legal-PEGASUSはデコーダのmax_length・min_lengthパラメータを調整することで3粒度全てに対応可能。
実用上の課題
事実の省略リスク
生成型要約(Abstractive Summarization)は抽出型と異なり、重要な事実を省略・変形するリスクがある。特に損害賠償額・有罪か無罪かなどの重要な判決内容が正確に要約されているか検証が必要。
ハルシネーション
法律文書に存在しない条文番号・判例引用が要約に混入するケースが報告されている。実務利用時は原文との照合チェックを必須とする。
文書長の限界
PEGASUSのデフォルト入力長は1024トークン。数百ページの判例全文を一度に処理できないため、セクション分割→各セクション要約→統合要約という階層的アプローチが必要。
後継・比較
- LegalBARTSum: BART架構の法律要約モデル(要約スタイルがPEGASUSと異なり論説的)
- GovReport-PEGASUS: 政府報告書特化版(より長い文書対応)
- Lex-GLUE評価: 法律要約タスクで現在もLegal-PEGASUSが競争力あり
- GPT-4 + Few-shot: 2024年現在の最高精度はGPT-4のFew-shot学習で達成されるが、コスト面でLegal-PEGASUSの優位が続く