Qwen2.5-Coder コーディングLLM(クウェンニーテンゴコーダーコーディングエルエルエム)
Alibaba Cloudが開発したコーディング特化LLM。Qwen2.5シリーズのコード版で、1.5B〜72Bの幅広いサイズを提供。HumanEvalで92.9%(72B)という高精度を達成し、2024年末時点でオープンソース最強クラス。
Qwen2.5-Coder コーディングLLMとは
Qwen2.5-CoderはAlibaba Cloudのオープンソースモデルファミリー「Qwen(通義千問)」のコーディング特化版です。2024年11月にリリースされ、オープンソースコーディングLLMの中で最高水準のベンチマーク成績を記録しています。
訓練データ規模
- コードトークン数: 5.5兆トークン(5.5 Trillion)
- 言語数: 92のプログラミング言語
- 追加データ: コードに関連する数学・科学テキスト(品質フィルタリング済み)
- 合成データ: コード補完・デバッグ・コードレビューを合成データで強化
前作Qwen2-Coderの約2倍のデータ量で訓練しており、特にコード理解・デバッグ・ドキュメント生成の精度が向上しています。
サイズ展開と用途
| モデルサイズ | HumanEval Pass@1 | 推奨VRAM | 主な用途 |
|---|---|---|---|
| 1.5B | 69.5% | 4GB | エッジデバイス・軽量補完 |
| 3B | 75.1% | 6GB | 省メモリ補完 |
| 7B | 88.4% | 12GB | バランス型ローカル補完 |
| 14B | 89.0% | 20GB | 高精度補完・コードレビュー |
| 32B | 90.2% | 40GB | エンタープライズ補完 |
| 72B | 92.9% | 80GB+ | 最高精度・研究利用 |
Instructionチューニング版の数値。Baseモデルは若干低め。
主な能力
コード生成: Python・JavaScript・TypeScript・Go・Rust・Java等の主要言語でGPT-4o水準のコード生成精度(72Bモデル)。
コード補完: Fill-in-the-Middle (FIM) 形式のコンテキスト対応補完に最適化。VS CodeのContinue・Cline等の拡張機能と連携可能。
バグ修正: エラーメッセージとコードを与えると修正案を提示。SWE-Bench(実際のGitHub Issue修正)でも高い成績を記録。
コードレビュー: プルリクエスト差分を解析してセキュリティ・パフォーマンス・可読性の観点からフィードバック生成。
多言語対応: 日本語でのコード説明・コメント生成にも対応。Qwen2.5ベースのため多言語能力が高い。
ベンチマーク比較(2024年11月時点)
| モデル | HumanEval | MBPP | LiveCodeBench |
|---|---|---|---|
| Qwen2.5-Coder-72B | 92.9% | 90.9% | 43.0% |
| GPT-4o | 90.2% | 87.8% | 38.8% |
| Claude 3.5 Sonnet | 89.0% | 87.6% | 39.5% |
| DeepSeek-Coder-V2 | 90.2% | 89.4% | 37.6% |
| Codestral-22B | 81.1% | 75.9% | 28.2% |
ローカル実行例(Ollama)
# 7Bモデルをインストール
ollama pull qwen2.5-coder:7b
# インタラクティブにコードを生成
ollama run qwen2.5-coder:7b
# API経由での利用
curl http://localhost:11434/api/generate -d '{
"model": "qwen2.5-coder:7b",
"prompt": "Write a Python function to calculate fibonacci numbers"
}'
よくある質問(FAQ)
Q1: Qwen2.5-CoderとDeepSeek-Coderの違いは? A: Qwen2.5-Coder-72BはDeepSeek-Coder-V2(236B MoE)に匹敵しながらも密なアーキテクチャで省VRAM。中規模サイズ(7B〜32B)の性能はQwen2.5-Coderが上回る場面が多いです。
Q2: 商用利用は可能か? A: 1.5B〜32BはApache 2.0ライセンスで商用利用可能。72BはQwen Licenseが適用され、ユーザー数100万人超の事業者はAlibaba Cloudとの別途合意が必要です。
Q3: RTX 4070 TiのPCで実用的に動くサイズは? A: RTX 4070 Ti(12GB VRAM)ではQ4量子化の7Bモデルが快適に動作します。14Bは量子化次第でギリギリ動作しますが速度低下があります。