AI・機械学習
上級
MathCoder2（マスコーダーツー）
コードと数学推論を統合したLLM。19.2Bトークンの数学+コードデータセット（MathCode-Pile）で学習し、PythonコードをChain-of-Thought推論ツールとして活用して競技数学・STEM問題を解く。
0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
数学LLM
コード生成
Python推論
NUS
STEM
MathCoder2 とは
MathCoder2（マスコーダー2）は、シンガポール国立大学（NUS）とMicrosoft Researchの研究グループが2024年に発表した数学×プログラミング統合推論モデルです。「数学推論にはPythonコードを書いて実行させる方が正確」という発想を徹底的に追求した点が特徴です。
核心技術：CIMR（Code-Integrated Mathematics Reasoning）
- 問題を受け取る
- 解法のPythonコードを生成
- コードを実行して中間結果を取得
- 結果を踏まえて次のステップのコードを生成
- 最終答えを出力
このループを繰り返すCIMRにより、計算ミス・符号ミスをコード実行で自動検証できます。
データセット：MathCode-Pile（19.2Bトークン）
| データソース | 規模 | 内容 |
|---|---|---|
| 数学Webコンテンツ | 8.5B tokens | Common Crawl数学フィルタ |
| 数学論文 | 4.3B tokens | arXiv数学カテゴリ |
| 数学教科書 | 0.8B tokens | オープン教材 |
| 合成数学コード | 5.0B tokens | GPT-4生成Python+LaTeX問題解法 |
| コード+数学混合 | 0.6B tokens | Stack Overflow数学系QA |
データセットMathCode-PileをHuggingFaceで公開。
モデルラインナップとスペック
| モデル | ベース | パラメータ | MATH-500 |
|---|---|---|---|
| MathCoder2-7B | Llama-3.1-8B | 7B | 75.9% |
| MathCoder2-72B | Llama-3.1-70B | 70B | 90.4% |
| Glaucus-12B | Qwen2.5-Math継続 | 12B | 89.4% |
ベンチマーク性能
| ベンチマーク | MathCoder2-72B | GPT-4o | Qwen2.5-Math-72B |
|---|---|---|---|
| MATH-500 | 90.4% | 74.6% | 83.1% |
| AMC 2023 | 72.0% | 50.0% | 68.0% |
| AIME 2024 | 26.7% | 9.3% | 23.3% |
よくある質問（FAQ）
Q: MathCoder2のライセンスは？ A: Llama-3.1ベースモデルはMeta Llamaライセンス（商用利用可）。MathCode-PileデータセットはCC BY 4.0で公開。
Q: MathCoder2はローカルで動かせるか？ A: 7Bモデルなら4bit量子化で8GB VRAMで動作可。72Bは4bit量子化で約40GB必要。
Q: CIMRとChain-of-Thoughtの違いは？ A: CoTは自然言語の推論ステップのみ。CIMRはPythonコードを推論の一部として実行し、計算結果を次ステップに活用。計算精度が大幅に向上します。