Legal-BERT（リーガルバート）

Legal-BERT とは

Legal-BERTはAllenAI・Stanfordなどの研究機関が開発した法律ドメイン特化型BERTモデル。一般テキストで学習した標準BERTに対し、米国連邦裁判所の判例・法令・契約書など大量の法律文書を追加学習（ドメイン適応）することで法律固有の語彙と文脈を習得している。

技術的背景

なぜ一般BERTでは不十分か

法律文書には以下の特徴がある:

• 専門用語の多用: "tortious interference"（不法妨害）や"indemnification"（免責）など一般語彙にない法律用語
• 独特の文体: 受動態・長文構造・条件節の多重ネスト
• 文脈依存性: 同一単語でも民事・刑事・行政法によって意味が異なる

一般BERTはこれらを適切に処理できず、法的エンティティ認識（NER）や契約書分類の精度が低い。

Legal-BERTの学習データ

合計でBertのオリジナル学習データの約10倍の法律文書を追加学習。

主要なタスクパフォーマンス

法的エンティティ認識（NER）

一般BERTと比較してF1スコアで平均+8〜12ポイントの向上。特に「裁判所名」「当事者名」「法令番号」の認識精度が高い。

契約条項分類

CUAD（Contract Understanding Atticus Dataset）ベンチマークで、Legal-BERTは一般BERTより約15%高いF1スコアを達成。41種類の契約条項（解約条件・競業禁止・知的財産条項等）を正確に分類。

判例類似度計算

「この案件に類似した過去判例は？」というクエリに対し、Legal-BERTのエンベディングは意味的に関連する判例を一般BERTより正確にランキングできる。

派生モデルと後継

• LegalBERT-small: 推論高速化版（パラメータ数1/4、精度85%維持）
• MultiLegal-BERT: 24言語対応多言語版
• Legal-RoBERTa: RoBERTa架構に乗り換えた改良版
• LexLMs: 欧州法律文書に特化したLegal-BERT後継群（→ lexlms-legal-models）

実用アプリケーション

契約書自動レビュー

Legal-BERTをバックボーンとしたシステムが法律事務所・企業法務部門で普及。リスク条項の自動フラグ、非標準条文の検出、競合他社との契約比較などに活用。

判例検索エンジン

従来のキーワード検索から意味検索（Semantic Search）への移行をLegal-BERTが後押し。「過失と類似の概念を含む判例」のような抽象的クエリも処理可能。

法令コンプライアンスチェック

自社の社内規定が現行法令と矛盾していないかを自動チェックするシステムに組み込まれる。

限界と注意点

• 司法管轄の偏り: 学習データが米国・EU中心。日本法・中国法への適用は精度低下リスクあり
• 時系列の問題: 学習後に制定・改正された法令は知識に含まれない
• 解釈の限界: モデルが出力するのはパターン認識であり、法的見解の代替にはならない
• ハルシネーション: 存在しない判例番号や法令条文を生成することがある

日本への応用

日本語法律文書対応では東京大学・理化学研究所などが独自の日本語Legal-BERTを開発。J-Lex（日本法令コーパス）やe-Gov法令APIのデータで追加学習した「JaLegalBERT」などが研究段階で存在する。