FinMA（フィンエムエー）
金融マルチタスク指示チューニングLLM。LLaMAをベースにMFTInstruct（136,000件の金融指示データ）でSFT学習し、多様な金融NLPタスクに単一モデルで対応する。
FinMA とは
FinMA（Financial Multi-task Model with Adaptive Learning）は、The University of Florida・Columbia Universityの研究チームが2023年に発表した金融ドメイン特化の指示チューニングLLMです。金融NLPの多様なタスクを単一モデルで処理できる汎用性を実現しており、タスク別に個別モデルを用意する従来手法の煩雑さを解消します。
MFTInstruct データセット
FinMA の中核は独自に構築した MFTInstruct（Multi-task Financial Task Instructions）データセットです。
- 総件数: 136,000件の（指示, 入力, 出力）トリプル
- タスク種類: 8種類の金融NLPタスクを網羅
- 構築手法: 既存金融データセット（Financial PhraseBank・FiQA・NER21など）に指示テキストを付与してSFT形式に変換
8種類のタスクの内訳は以下の通りです。
- 感情分析（SA）: ニュース・ツイートのポジ/ネガ/ニュートラル分類
- 株価予測（SP）: ニュース → 翌日株価変動方向の予測
- 命名エンティティ認識（NER）: 金融テキストからの固有表現抽出
- 数値理解（NI）: 財務数値の比較・計算・解釈
- 質疑応答（QA）: 金融文書への質問応答
- クレジットスコアリング（CS）: 顧客情報からの信用リスク評価
- 詐欺検出（FD）: 不正取引パターンの識別
- 要約（SUM）: 財務書類・レポートの自動要約
モデルアーキテクチャと学習
FinMA は LLaMA（7B・30B）をベースモデルとして採用し、MFTInstruct で Supervised Fine-Tuning（SFT）を実施しています。
- FinMA-7B: LLaMA-7B + MFTInstruct SFT
- FinMA-30B: LLaMA-30B + MFTInstruct SFT（より高精度）
- FinMA-7B-full: MFTInstruct全データで学習した汎用版
学習はフルパラメータ更新（フルファインチューニング）で、LoRAなどのPEFTは使用していません。
評価結果
FinMA は BloombergGPT・ChatGPT との比較評価で以下の結果を示しました。
- 感情分析（SA）: FinMA-30B > BloombergGPT > ChatGPT（FPB/FiQA SA）
- 株価予測（SP）: FinMA-7B > BloombergGPT（ACL18データセット）
- NER: FinMA-30B ≒ BloombergGPT（NER21データセット）
- QA: ChatGPT > FinMA（FiQA QA・FinQA — 長文理解は汎用LLM有利）
特に感情分析と株価予測タスクでは FinMA が BloombergGPT を上回り、オープンソースモデルが専用学習モデルに迫れることを実証しました。
公開と活用
FinMA のモデルウェイトとデータセットは Hugging Face（TheFinAI/finma-7b-nlp）で公開されています。研究者・実務者がローカル環境で追加ファインチューニングを行い、自社の金融データに特化したモデルを構築する際の出発点として活用されています。