NuminaMath-72B(ヌミナマスナナジュウニビー)
AI4Mathチームが2024年に開発した競技数学特化LLM。Chain-of-Thought推論とTool-Integrated Reasoningを組み合わせ、AMC・AIME・国際数学オリンピック(IMO)レベルの難問を解くために設計された72Bモデル。
NuminaMath-72B とは
NuminaMath-72B(ヌミナマス 72B)は、数学AI研究コミュニティAI for Math(AI4Math)が2024年に開発した競技数学特化の大規模言語モデルです。Kaggleが主催するAIMO Progress Prize 2024での優勝を目指して開発され、AMC・AIME・国際数学オリンピック(IMO)レベルの難問解法に特化しています。
AIMO Progress Prizeとは
IMO(International Mathematical Olympiad)レベルの問題を解けるAIを開発するためのKaggle主催コンペ。賞金総額100万ドル以上。NuminaMath-72BはPhase 1(50万ドル)で優勝しました。
2種類のモデルアーキテクチャ
NuminaMath-CoT(Chain-of-Thought)
- 自然言語で詳細な推論ステップを生成
- 段階的な式変形・証明の展開
- 人間の数学者が黒板に書くような解法スタイル
NuminaMath-TIR(Tool-Integrated Reasoning)
- Pythonコードを推論に組み込む
- SymPyでの代数計算・数値検証
- 計算ミスをコード実行で自動補正
学習データ
| データソース | 内容 |
|---|---|
| 競技数学問題集 | AMC 8/10/12, AIME 1983-2024, IMO 1959-2023 |
| 中国高校数学 | 中国高考(大学入試)・数学競技試験 |
| 合成COTデータ | GPT-4で生成した詳細解法ステップ |
| 数学論文 | arXiv高校〜学部レベル |
ベースモデルにDeepSeekMath-7Bを使用し、段階的SFTとGRPO強化学習で競技数学に特化。
ベンチマーク性能(2024年時点)
| ベンチマーク | NuminaMath-72B | GPT-4 | DeepSeekMath-7B |
|---|---|---|---|
| MATH-500 | 86.2% | 42.5% | 51.7% |
| AIME 2024 | 32.6% | 11.5% | - |
| AMC 2023 | 71.0% | 50.0% | - |
NuminaMathデータセット公開
NuminaMathデータセット(86万件の数学問題+解法)をHugging Faceで公開。学校教科書・競技問題・合成データを含む史上最大規模の数学QAデータセット。Hugging FaceとNuminaのコラボレーションProject Numinaとして世界中の数学者・AIエンジニアが参加しています。
よくある質問(FAQ)
Q: NuminaMath-72BはIMO問題を解けるか? A: IMO 2024の簡単な問題(代数・初等幾何)は一部正解可能ですが、最高難度問題(不等式証明・組み合わせ論)は現状困難。IMO Gold Medalレベルは次世代モデルへの課題。
Q: NuminaMath-72Bはローカルで動かせるか?
A: 4bit量子化で約40GB VRAMが必要。A100 80GB×1枚またはA6000 48GB×1枚が推奨。Hugging Faceからnumina/NuminaMath-72B-CoTで入手可能。
Q: NuminaMath-CoTとNuminaMath-TIRはどちらが優秀か? A: 競技数学ではTIR(コード実行あり)がCoTより平均5〜10%高精度。ただし実行環境が必要で推論速度は遅くなります。