AI・機械学習
中級
ClinicalBERT(クリニカルバート)
電子カルテ(EHR)テキストに特化してBERTを継続事前学習したNLPモデル。臨床ノート・退院サマリー・看護記録などの非構造化医療文書の解析に高精度を発揮する。
0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
llm
medical-ai
ehr
clinical-nlp
bert
ClinicalBERT とは
ClinicalBERTはMITのCSAIL(Computer Science and AI Laboratory)とStanford Medicineが2019年に発表した電子カルテ(EHR)特化型BERTモデル。医学論文に特化したBioBERTとは異なり、実際の臨床現場で書かれる電子カルテのテキスト(臨床ノート・退院サマリー・看護記録)で学習した点が独自の価値。
なぜ電子カルテに別のBERTが必要か
臨床ノートの特徴:
| 特徴 | 例 |
|---|---|
| 医療略語の多用 | SOB/DOE(労作時息切れ)、Hx(病歴)、Dx(診断) |
| 非標準的文法 | 「Pt c/o CP×2d, 放散なし」(患者が2日間胸痛を訴え、放散なし) |
| タイポ・誤記 | hypertension→hypertenshonが混在 |
| 箇条書き・テンプレ文 | 「Impression: 1) 肺炎 2) 心不全」 |
| 入力者の偏り | 医師・看護師・医療事務員で文体が大きく異なる |
学習データ:MIMIC-III
MIMIC-III(Medical Information Mart for Intensive Care III)はBeth Israel Deaconess Medical Centerのデータ:
- 約40,000名の重症患者データ
- 約200万件の臨床ノート(退院サマリー・看護記録・検査結果・放射線レポート含む)
- PhysioNet認証を受けた研究者のみアクセス可能
主要タスクの性能
30日再入院予測
| モデル | AUROC |
|---|---|
| ClinicalBERT | 0.771 |
| BioBERT | 0.752 |
| BERT-base | 0.733 |
| Bag-of-Words | 0.698 |
臨床NER(固有表現抽出)
| タスク | ClinicalBERT F1 | BioBERT F1 |
|---|---|---|
| 疾患名抽出(i2b2 2010) | 89.3 | 87.8 |
| 処方薬抽出(n2c2 2018) | 91.5 | 89.7 |
| 時間表現抽出(i2b2 2012) | 85.1 | 82.4 |
ClinicalBERTのバリエーション
| モデル | 開発元 | 特徴 |
|---|---|---|
| ClinicalBERT(オリジナル) | MIT/Stanford | MIMIC-III全Note学習 |
| BioClinicalBERT | Hugging Face | MIMIC-III + PubMed混合 |
| BlueBERT | NIH | PubMed + MIMIC-III |
| ClinicalBERT-Discharge | MIT | 退院サマリーのみ学習 |
よくある質問(FAQ)
Q1: 日本語の電子カルテに使えるか? A: 使えない。英語の臨床ノート特化モデル。日本語医療NLPにはNTT・NEC・理研が開発した日本語特化モデルのファインチューニング版等を検討。
Q2: GPT-4等の大規模モデルに比べて今でも有用か? A: 用途次第。診断補助・会話型AIにはGPT-4優位だが、高速バッチ処理・ローカルデプロイ・プライバシー重視のEHR処理にはClinicalBERT(軽量)が現実的。
Q3: MIMICへのアクセスはどうすれば取得できるか? A: PhysioNetのWebサイトでCITI training(人対象研究倫理コース)を修了し、データ使用申請を提出。承認まで数日〜数週間かかる。