Llama 3.2 Vision Instruct(ラマ サンテン ツー ビジョン インストラクト)
MetaがオープンソースリリースしたマルチモーダルLLMシリーズ。11Bと90Bの2サイズで提供され、テキストと画像の同時理解に対応。ローカル推論・商用利用・ファインチューニングが可能で、オープンソースマルチモーダルモデルのデファクトスタンダードとなっている。
Llama 3.2 Vision Instruct とは
Llama 3.2 Vision InstructはMetaが2024年9月にリリースしたオープンソースマルチモーダルLLM。Llama 3.1テキストベースモデルにビジョンエンコーダ(クロスアテンション機構)を統合し、テキストと画像の同時理解を可能にした。「Instruct」版は指示追従向けにチューニングされており、チャット・QA・文書解析など実用タスクに直接利用できる。
モデルスペック
| 項目 | 11B Vision | 90B Vision |
|---|---|---|
| パラメータ数 | 110億 | 900億 |
| コンテキスト長 | 128,000トークン | 128,000トークン |
| 画像入力 | ◎ | ◎ |
| VRAM要件(Q4) | ~8GB | ~55GB |
| VRAM要件(BF16) | ~22GB | ~180GB |
| ライセンス | Llama 3.2 Community License | Llama 3.2 Community License |
| 商用利用 | ○(月間10億アクティブユーザー以下) | ○ |
アーキテクチャ設計
Llama 3.2 Visionはクロスアテンション(Cross-Attention)方式を採用。テキストモデルのウェイトを変更せず、専用のビジョンアダプタレイヤー(クロスアテンション層)を介して画像特徴量を注入する。この設計により:
- テキスト性能をベースモデルから維持
- ビジョン機能を独立してファインチューニング可能
- テキストのみのタスクではビジョン層をスキップできる
主な画像理解能力
- 文書・スキャン画像の読取: 表・フォーム・請求書の構造的な情報抽出
- 図表解析: グラフ・チャートの数値読み取りと説明
- 自然画像の説明: 写真の詳細な記述、物体・人物・シーン認識
- テキスト認識(OCR): 画像内テキストの抽出と変換
- ビジュアルQA: 画像に関する質問への回答
ローカル実行方法
Ollama
# 11Bモデルのダウンロードと実行(約6.4GB、Q4_K_M量子化)
ollama pull llama3.2-vision:11b
ollama run llama3.2-vision:11b
Transformers(HuggingFace)
from transformers import MllamaForConditionalGeneration, AutoProcessor
from PIL import Image
model = MllamaForConditionalGeneration.from_pretrained(
"meta-llama/Llama-3.2-11B-Vision-Instruct",
torch_dtype="auto"
)
processor = AutoProcessor.from_pretrained("meta-llama/Llama-3.2-11B-Vision-Instruct")
image = Image.open("image.jpg")
inputs = processor(images=image, text="この画像を説明してください", return_tensors="pt")
output = model.generate(**inputs, max_new_tokens=200)
print(processor.decode(output[0][inputs["input_ids"].shape[-1]:]))
クラウドAPIでの利用
ローカル実行以外に以下のクラウドプロバイダーでも利用可能:
- Meta AI(meta.ai): 無料のチャットUI
- AWS Bedrock: エンタープライズ向けAPIアクセス
- Groq: 超高速推論(Llama 3.2 90B Vision対応)
- Together AI: API課金形式
- Replicate: ワンクリックデプロイ
オープンソースマルチモーダルLLMとしての位置づけ
2024年時点のオープンソースマルチモーダルLLMにおいて、Llama 3.2 Visionは最大規模かつ最も広く採用されているモデルの一つ。競合のInternVL 2.5(英中二言語強化)、Qwen2-VL(動画対応)と並び、用途に応じて使い分けられる。
ファインチューニング
Llama 3.2 Visionは商用利用可能なライセンスのもとでファインチューニングが可能。LoRA/QLoRAを使った効率的なアダプテーションで、特定ドメイン(医療画像・製造品質検査・書類処理等)に特化したモデルを低コストで作成できる。
よくある質問(FAQ)
Q1: 11Bと90Bどちらを選ぶべき? A: 一般的な画像理解・文書解析なら11Bで十分(8GB VRAM、または無料クラウドAPIで動作)。複雑な医療画像・高精度OCR・複数画像の比較分析は90Bが優位。
Q2: 日本語の画像理解は精度が出るか? A: 日本語テキストを含む画像のOCRは実用レベル。ただし中国語・英語比較では精度が若干下がる場合あり。日本語特化ファインチューニングで改善可能。
Q3: 商用利用は無料か? A: Llama 3.2 Community Licenseのもと月間10億アクティブユーザー以下の商用利用は無料。それ以上の規模はMetaへの別途契約が必要。
まとめ
- Llama 3.2 Vision = 2024年のオープンソースマルチモーダルLLMの基準モデル
- 11B(ローカル実行可)と90B(高精度)の2サイズ、商用利用・ファインチューニング自由
- OllamaやTransformersで簡単にローカル実行可能