Pixtral 12B(ピクストラルジュウニビー)
Mistral AIが2024年9月にリリースしたビジョン言語モデル。12Bパラメータのテキスト+画像入力対応で、可変解像度画像処理とMistral Nemoエンコーダーを組み合わせた初のマルチモーダルモデル。
Pixtral 12B — Mistral初のビジョン言語モデル
概要
Pixtral 12Bは、フランスのAIスタートアップMistral AIが2024年9月に公開したビジョン言語モデル(VLM)。同社にとって初のマルチモーダルモデルであり、オープンウェイト(Apache 2.0ライセンス)で公開された。12BパラメータのMistral Nemoアーキテクチャに専用視覚エンコーダーを統合した設計で、テキスト専用モデルの言語能力を維持しながら画像理解を追加している。
アーキテクチャ
コンポーネント構成:
- Pixtral ViT: 専用視覚エンコーダー(約120M パラメータ)
- テキストデコーダー: Mistral Nemo 12Bベース
- 画像トークン化: 可変解像度タイリング(16×16〜1024×1024px対応)
- コンテキスト長: 128Kトークン(画像+テキスト合計)
可変解像度処理の仕組み: 入力画像を複数の固定サイズパッチに分割し、それぞれを独立してエンコード。パッチ数は画像解像度に応じて動的に調整されるため、低解像度画像も高解像度画像も適切な精度で処理できる。従来のVLMが固定解像度(多くは224×224や336×336)に縮小していたのに対し、Pixtralは元の縦横比を保持しつつ処理する。
主な能力
| 能力 | 詳細 |
|---|---|
| ドキュメント解析 | PDF・スキャン画像からテキスト・表・グラフを抽出 |
| コード認識 | スクリーンショット→動作コード変換 |
| 複数画像比較 | 最大数十枚の画像を1コンテキストで処理 |
| 数学・図表 | 数式・チャート・ダイアグラムの理解 |
| 視覚的QA | 自然言語で画像内容を質問回答 |
ベンチマーク性能(2024年時点)
- MMMU: 52.5(12Bクラスでトップ水準)
- DocVQA: 90.7(ドキュメント理解の高精度)
- MathVista: 58.0
- TextVQA: 75.7
- AI2D: 79.9
LLaVA-OneVision 72Bを下回るが、12Bモデルとしては競合のLLaVA-1.6 13BやPhi-3.5-Vision 4Bを上回る成績。
Pixtral Large(後継)
2024年11月にPixtral Largeを公開。123Bパラメータで、Claude 3.5 SonnetやGemini 1.5 Flashと競合するクローズドAPIモデル(mistral.ai APIで利用可)。
オープンウェイトの意義
商用利用可能なオープンウェイトVLMは2024年時点で選択肢が限られていた。Pixtral 12BはApache 2.0ライセンスで商用展開が自由であり、Ollama/LM Studio/vLLMでのローカル実行も可能。HuggingFaceからモデルウェイトを直接ダウンロードして自己ホストするユースケースで選択肢の一つとなっている。