AI・機械学習
上級
Llama 4(ラマフォー)
Meta が 2025 年 4 月に公開した次世代オープンソース LLM シリーズ。Llama 3 の後継として、マルチモーダル対応、より長いコンテキスト、MoE アーキテクチャを採用し、オープンモデルの最高水準を目指す。
0 回閲覧
0 いいね
2026/4/25 更新
関連タグ
LLM
Meta
オープンソース
マルチモーダル
Llama 4
概要
Llama 4 は、Meta(Facebook)が 2025 年 4 月に公開したオープンソース大規模言語モデルシリーズです。Llama 3 の後継として、ネイティブマルチモーダル対応、MoE(Mixture of Experts)アーキテクチャの採用、最大 10M トークンの超長コンテキストなど、複数の革新を実装しています。オープンソース LLM のリーダーシップを維持すべく、Meta が総力を挙げて開発したモデルです。
ラインナップ
Llama 4 Scout(17B アクティブ、109B 総)
- 16 エキスパート MoE
- 10M トークンコンテキスト(業界最長クラス)
- 用途: 軽量なマルチモーダル用途、長文処理
- 単一 H100 GPU で動作
Llama 4 Maverick(17B アクティブ、400B 総)
- 128 エキスパート MoE
- 1M トークンコンテキスト
- 用途: 汎用、GPT-4o 対抗
- 単一 H100 ホスト(8 GPU)で動作
Llama 4 Behemoth(288B アクティブ、~2T 総)
- 最大級のモデル
- 学習中(2025 年 4 月時点)
- 用途: 研究、最先端ベンチマーク**
主要特徴
ネイティブマルチモーダル
- Early Fusion: テキストと画像を学習初期から統合
- 対応: 画像、動画(フレーム)
- 用途: VQA、画像理解、動画解析
超長コンテキスト(Scout の 10M)
- iRoPE: 改良された Rotary Position Embedding
- 用途: 大規模コードベース解析、全書籍読込、長編動画
MoE アーキテクチャ
- Llama 3 は Dense、Llama 4 は MoE
- 推論コスト削減: アクティブパラメータのみ計算
- Llama 4 Scout: 16 エキスパート中 1 個選択
ベンチマーク
| ベンチマーク | Scout | Maverick | GPT-4o |
|---|---|---|---|
| MMLU Pro | 74.3 | 80.5 | 74.7 |
| GPQA Diamond | 57.2 | 69.8 | 53.6 |
| Image MMU | 69.4 | 73.4 | 69.1 |
| DocVQA | 94.4 | 94.4 | 92.8 |
Llama 3 からの進化
| 項目 | Llama 3 | Llama 4 |
|---|---|---|
| アーキテクチャ | Dense | MoE |
| マルチモーダル | 別モデル(3.2) | ネイティブ |
| コンテキスト | 128K | 1M-10M |
| 最大サイズ | 405B | ~2T(Behemoth) |
| 学習データ | 15T tok | ~30T tok |
ローカル実行
Llama 4 Scout
- VRAM: 80GB(INT4)、160GB(FP16)
- H100 × 1(80GB HBM3)で動作
- Mac Studio M3 Ultra 256GB でも可
Llama 4 Maverick
- VRAM: 200GB(INT4)
- H100 ホスト(8× 80GB)
Ollama/LM Studio 対応
ollama run llama4:scout
ollama run llama4:maverick
競合との比較
| モデル | パラメータ | ライセンス | マルチモーダル |
|---|---|---|---|
| Llama 4 Scout | 109B(17B active) | オープン | ✅ |
| Llama 4 Maverick | 400B(17B active) | オープン | ✅ |
| GPT-4o | 不明 | クローズド | ✅ |
| Claude 4 Opus | 不明 | クローズド | ✅ |
| Gemini 3 Pro | 不明 | クローズド | ✅ |
| DeepSeek V3 | 671B(37B active) | オープン | ❌ |
ライセンス
Llama 4 Community License
- 商用利用: 可(月間アクティブユーザー 7 億人未満)
- 再配布: 可
- 学習: 可(派生モデル作成)
- 制限: 超大規模サービスは別途ライセンス
関連用語
- Llama 3
- DeepSeek V3、Qwen 3
- MoE(Mixture of Experts)
- Mistral、Claude
- Meta AI