Codestral(コードストラル)
Mistral AIが2024年5月にリリースした22Bパラメータのコード生成特化LLM。80以上のプログラミング言語をサポートし、Fill-in-the-Middle(FIM)タスクに最適化されている。
Codestral とは
Codestral は、フランスの AI スタートアップ Mistral AI が 2024 年 5 月にリリースしたコード生成特化の大規模言語モデル(LLM)です。22B パラメータを持ち、80 以上のプログラミング言語に対応します。Mistral AI が一般向けに公開した初のコード専用モデルとして、リリース直後から IDE 統合や API 利用で広く採用されています。
主な仕様
- パラメータ数: 22B
- コンテキスト長: 32K トークン
- 対応言語数: 80 以上
- 最大出力: 8K トークン
- ライセンス: Mistral Non-Production License (MNPL)
Fill-in-the-Middle(FIM)機能
Codestral の最大の特徴は Fill-in-the-Middle(FIM) タスクへの最適化です。FIM は既存コードの穴抜き部分を前後の文脈から補完する機能で、IDE 上でのコード補完に不可欠な技術です。
[PREFIX] def calculate_total(items):
total = 0
for item in items:
[SUFFIX]
return total
[MIDDLE] → Codestral が中間部分を補完
従来の言語モデルは主に後続テキストの予測(causal language modeling)で学習されますが、Codestral は FIM を明示的に学習に組み込んでおり、補完精度が大幅に向上しています。
対応プログラミング言語(主要)
- 一般用途: Python / JavaScript / TypeScript / Java / C / C++ / Go / Rust
- Web フロントエンド: HTML / CSS / React / Vue
- データ / ML: R / Julia / MATLAB / SQL
- システム: Shell / PowerShell / Dockerfile
- その他: Kotlin / Swift / Scala / Haskell / COBOL など 80 以上
IDE・ツール連携
Codestral は主要な開発ツールと公式サポートされた統合を提供しています。
- VS Code: Continue 拡張・LM Studio 経由でのローカル利用
- JetBrains IDE: IntelliJ IDEA・PyCharm 等で AI 補完
- Neovim: avante.nvim・copilot.nvim の代替として設定可能
- Cursor / Windsurf: カスタム API エンドポイントとして設定
Mistral API での利用
Mistral AI は Codestral 向けの専用 API(codestral.mistral.ai)を提供しています。一般的な Mistral API(api.mistral.ai)とは別のエンドポイントで、コード補完に特化したレート制限と価格設定が適用されます。
from mistralai import Mistral
client = Mistral(api_key="YOUR_API_KEY", server_url="https://codestral.mistral.ai")
result = client.fim.complete(
model="codestral-latest",
prompt="def fibonacci(n):",
suffix="\nreturn result"
)
ベンチマーク性能
- HumanEval: Codestral-22B 81.1% / StarCoder2-15B 46.3% / Code Llama 34B 62.4%
- MBPP: Codestral-22B 78.2% / StarCoder2-15B 58.8% / Code Llama 34B 67.5%
- RepoBench (completion): Codestral-22B 50.4% / StarCoder2-15B 38.5% / Code Llama 34B 44.1%
パラメータ数が倍以上大きい Code Llama 34B を大きく上回るスコアを示し、コンパクトさと性能を両立させています。
ライセンスと商用利用
Codestral は Mistral Non-Production License (MNPL) で公開されており、個人・研究・開発目的での利用は無料です。ただし、商用製品・SaaS サービスへの組み込みには有料の商用ライセンスが必要です。完全な商用利用を求める場合は Qwen2.5-Coder(Apache 2.0)が推奨されます。
Codestral Mamba
2024 年 6 月、Mistral AI は Codestral の Mamba アーキテクチャ版である Codestral Mamba 7B をリリースしました。SSM(State Space Model)ベースのアーキテクチャにより、コンテキスト長の増加に対して線形のメモリ効率を実現し、長大なコードファイルの処理に適しています。