DeepSeek-Coder-V2 コーディングLLM(ディープシークコーダーブイツーコーディングエルエルエム)
中国のDeepSeek AIが開発したMixture-of-Experts(MoE)アーキテクチャのコーディング特化LLM。16B(アクティブ)/236B(総パラメータ)のLiteとFullの2モデルを提供し、GPT-4 Turboを超えるコード能力を実現した。
DeepSeek-Coder-V2 コーディングLLMとは
DeepSeek-Coder-V2は中国のDeepSeek AI社が2024年6月に公開したコーディング特化大規模言語モデルです。Mixture-of-Experts(MoE)アーキテクチャを採用し、総パラメータ数に対して推論時に必要なアクティブパラメータを絞ることで、効率的な高性能を実現しています。
MoEアーキテクチャの効率
| バリアント | 総パラメータ | アクティブパラメータ | コンテキスト |
|---|---|---|---|
| Lite | 16B | 2.4B | 128K |
| Full (Instruct) | 236B | 21B | 128K |
Fullモデル(236B)は推論時に21B分のパラメータしかアクティブにならないため、通常の21Bモデル相当のVRAMで236Bクラスの性能を引き出せます。
訓練データ
- コードトークン数: 338億トークン(338B)
- 対応言語数: 60のプログラミング言語
- 追加テキスト: 4兆トークンの自然言語コーパス(数学・理科重点)
- ベースモデル: DeepSeek-V2(汎用MoE LLM)からfine-tune
ベンチマーク(2024年6月時点)
| ベンチマーク | DeepSeek-Coder-V2 | GPT-4 Turbo | Claude 3 Opus |
|---|---|---|---|
| HumanEval | 90.2% | 87.1% | 84.9% |
| MBPP+ | 76.2% | 71.7% | 68.3% |
| MATH | 75.7% | 69.9% | 60.1% |
| LiveCodeBench | 37.6% | 33.1% | - |
GPT-4 Turboを複数ベンチマークで上回ることが2024年当時話題となりました。
特徴的な能力
128Kコンテキスト: 長大なコードベース(大型モノリスリポジトリ)をコンテキストに入れて質問・修正が可能。
コード+数学: MATHベンチマーク75.7%と数学問題への強さを持ち、アルゴリズム実装・数値計算・競技プログラミングで優れた結果。
多言語コーディング: Python・JavaScript・TypeScript・Go・Rust・Java・C++・Ruby・PHP等60言語に対応。
ローカル実行
# Ollama でLiteモデルを取得
ollama pull deepseek-coder-v2:16b
# API利用
curl http://localhost:11434/api/chat -d '{
"model": "deepseek-coder-v2:16b",
"messages": [{"role": "user", "content": "Implement quicksort in Python"}]
}'
よくある質問(FAQ)
Q1: DeepSeek-Coder V1とV2の違いは? A: V1は最大33Bの密なモデルで訓練データ2兆トークン。V2はMoE設計で236Bに大幅拡張し、HumanEvalを78.6%→90.2%に向上。コンテキストも16K→128Kへ拡大しています。
Q2: 商用利用ライセンスは? A: DeepSeek Licenseで提供。ユーザー数100万人未満の商用利用は許可されています。詳細はDeepSeek公式リポジトリのLICENSEファイルを確認してください。
Q3: DeepSeek-Coder-V2とDeepSeek-V3はどう違う? A: DeepSeek-V3(2024年12月公開)はコーディング以外の汎用能力も強化した後継の汎用LLMです。コーディング特化の最適化はDeepSeek-Coder-V2に軍配が上がる場合もあります。