Ramalama (Red Hat OSS LLM CLI on Podman・2024年)（ラマラマ）
2024年Red Hat発表のRamalama・Podman/Docker container上でLocal LLM (Ollama互換) を実行するOSS CLI。Apache 2.0 License・GitHub Star 800+ (2024年Q4)・llama.cpp / vLLM / MLX backend切替可能・Ollama compatible API (OpenAI互換) ・OCI Container方式でモデル配布 (Hugging Face/OCI Registry pull)・rootless実行 + Cosign signature検証 + SELinux confinement対応のEnterprise Security重視Local LLM Runtime・Red Hat Enterprise Linux (RHEL) / Fedora標準採用予定。
概要
Ramalama は、2024年にRed Hat (IBM子会社・Enterprise Linux最大手) が発表したOSSのLocal LLM 実行CLIツール。Apache 2.0 License・GitHub Star 800+ (2024年Q4)・累計DL 5万+。Podman (Red Hat製OSS Container Engine・Docker代替) または Docker container上で Local LLM を実行する設計で、Ollama互換のCLI/API (OpenAI API compatible) を提供。llama.cpp / vLLM / MLX (Apple Silicon) backend を実行時切替可能・OCI Container方式でモデル配布 (Hugging Face Hub / OCI Registry pull) ・Container Image as Model Format で 既存OCI infrastructure 再利用。Red Hat Enterprise Linux (RHEL) / Fedora標準採用予定で 「Enterprise Linux 環境のLocal LLM標準ツール」を目指す。Rootless実行 (root権限不要) + Cosign signature検証 (model改ざん防止) + SELinux confinement (sandboxed execution) 対応でEnterprise Security要件厳格な金融/医療/政府機関向けに最適化。
主な特徴・仕組み
- Container方式: Podman/Docker container内でLLM実行・OCI Image Format対応
- Backend切替: llama.cpp (CPU/Metal/CUDA) / vLLM (NVIDIA GPU高速) / MLX (Apple Silicon) ・実行時
ramalama run --runtime=vllm <model>で切替 - Model Format: GGUF (llama.cpp) / Safetensors (vLLM) / MLX (Apple) ・OCI Registry経由 model pull
- Ollama互換API: OpenAI API compatible endpoint (
/v1/chat/completions) 提供・既存Ollama client流用可能 - Security: Rootless実行 (Podman特性) + Cosign signature検証 + SELinux confinement + AppArmor対応
- License: Apache 2.0 (OSS) + Red Hat商用Enterprise support契約 (RHEL bundle)
- Distribution: Fedora 41+ / RHEL 10+ / Ubuntu 24.04+ / macOS Homebrew
- CLI Pattern:
ramalama pull llama3.2,ramalama run llama3.2 "prompt",ramalama serve llama3.2
スペック比較表
| Local LLM Runtime | Container | Backend | Security | Provider |
|---|---|---|---|---|
| Ramalama | Podman/Docker | llama.cpp/vLLM/MLX | rootless+SELinux+Cosign | Red Hat |
| Ollama | None (native) | llama.cpp | basic | OSS community |
| LM Studio | None (native) | llama.cpp | basic | Element Labs |
| LocalAI | Docker | llama.cpp等 | basic | OSS community |
| llamafile | None (single-file) | llama.cpp | basic | Mozilla |
具体例・対応製品
- Ramalama CLI (Fedora 41+):
dnf install ramalamaでinstall・Apache 2.0 - Red Hat AI Inference Server (RHEL 10予定): Ramalama商用Enterprise版・RH support契約付
- OpenShift AI 統合 (2025年予定): Kubernetes上のRamalama deployment・Operator化予定
- 競合 Ollama: $0・native install・初心者向け簡素設計
- 競合 vLLM Production Stack: Kubernetes上のvLLM・Production scale + AIBrix連携
自作PCでの選び方・注意点
Ramalama は「Enterprise Linux Local LLM」「Container-native LLM運用」「Security要件厳格 (金融/医療/政府)」用途の本命OSS。Ollama (native install・basic security) との大きな差別化はContainer方式 (Podman/Docker) によるModel + Runtime分離 + OCI Registry再利用 + rootless + SELinux + Cosign signature検証によるDefense-in-depth Security設計。Red Hat OpenShift / Kubernetes / Podman環境を既に運用する Enterprise IT は既存OCI infra (Quay/JFrog Artifactory) でmodel配布をCI/CDパイプラインに統合可能。一方Native Ollama (シンプル install・Mac/Linux/Windows) よりCLI complexity高で個人開発者・小規模Team はOllama選択肢残る。Red Hatブランド信頼性 + Apache 2.0 OSS でVendor lock-in回避・将来のEnterprise Linux標準ツールの座を狙う2024年新興プロジェクト。
関連用語との違い
- vs Ollama: Ramalamaは Container方式 + Security重視・OllamaはNative install + 簡素・両方OllamaAPI compat
- vs LocalAI: 両方Container方式・LocalAIはDocker前提・RamalamaはPodman推奨 + Red Hat Enterprise support
- vs vLLM Production Stack: vLLMはNVIDIA GPU高速 + Kubernetes・Ramalamaは Mixed Backend + CPU/GPU両対応
よくある質問（FAQ）
Q1: なぜPodmanベース？Docker使えない？
A: Podman対応がdefault・Docker互換でも動作可能 (ramalama --engine docker)。PodmanはRed Hat製でrootless実行/Daemonless設計/SELinux integration強み・Dockerより Enterprise Security要件適合度高でRed Hat推奨。
Q2: モデル配布のOCI Registryとは？ A: OCI (Open Container Initiative) Image規格でLLM model file (GGUF/Safetensors) を Container Image扱いでRegistry (Quay/Docker Hub/Harbor/Artifactory) 配布。既存OCI infra (storage/access control/signature/scan) を再利用してLLM model管理を企業システムに統合可能。
Q3: Cosign signature検証で何防げる？ A: Supply Chain Attack (model改ざん・悪意modelの混入) 検出。Sigstore Cosign で署名付model のみpullを強制可能・公開Hugging Face model (Meta官公署名済み) の真正性検証も対応。
まとめ
Ramalama = 2024年Red Hat発表のOSS Local LLM CLI on Podman。Apache 2.0・OCI Container方式・llama.cpp/vLLM/MLX backend切替・rootless + SELinux + Cosign検証でEnterprise Security重視のNext Generation Local LLM Runtime。RHEL/Fedora標準採用予定でEnterprise Linux環境のLocal LLM標準ツール候補。