FinBERT（フィンバート）

FinBERT とは

FinBERT は、ProsusAI（旧Naspers）が2019年に公開した金融テキスト解析に特化したBERTベースの言語モデルです。オリジナルのBERT（bert-base-uncased）を出発点として、金融ドメインの大規模コーパスで追加事前学習（domain-adaptive pretraining）を行い、金融固有の語彙・表現・文体を適切に処理できるように特化されています。

学習データと手法

FinBERT の学習は2段階で構成されています。

第1段階: ドメイン適応的事前学習

• Financial Times（10年分）
• Bloomberg News（約150万記事）
• 総約47億トークンの金融テキストでMLM（Masked Language Modeling）を継続学習

第2段階: タスク特化ファインチューニング

• Financial PhraseBank（4,840文・ポジティブ/ネガティブ/ニュートラルラベル）
• FiQA Sentiment（金融Q&Aの感情ラベル）
• Analyst Tone データセット

性能評価

FinBERT は金融感情分析タスクで優れた性能を示しています。

• Financial PhraseBank（全文）: F1スコア 0.879（BERT 0.746比較）
• FiQA Sentiment: F1スコア 0.834
• News Headline 分類: Accuracy 88.5%

汎用BERTと比較して感情分析タスクで一貫して10〜15ポイント以上の改善が見られます。

主要ユースケース

感情分析（主要用途）

• 決算発表テキストのポジティブ/ネガティブ/ニュートラル分類
• リアルタイムニュースの市場センチメントモニタリング
• ソーシャルメディア（Reddit・Twitter）の投資家感情スコアリング

金融固有エンティティ認識（NER）

• 企業名・ティッカーシンボル・金融商品名の抽出
• 地名・人名・金融機関名の識別

リスク評価

• 四半期報告書のリスクファクターセクション自動分類
• 規制当局コミュニケーションのトーン分析

Hugging Face での普及

FinBERT は Hugging Face Model Hub で ProsusAI/finbert として公開されており、2024年時点で月間数十万回以上のダウンロードを記録する金融NLP分野最大のオープンモデルです。transformers ライブラリから2行で利用可能で、金融センチメント分析パイプラインの実装コストを大幅に下げています。

GPT時代との比較

GPT-4・Llama 3 などの強力な汎用LLMが登場した後も、FinBERT はその推論速度・低コスト・小型サイズ（110M params）という実用的メリットから生産環境での採用が継続しています。リアルタイムニュースパイプラインや組み込みアプリケーションでは、LLM APIコールより FinBERT ローカル推論の方が10〜100倍高速で低コストです。