ローカルマシンでLLMを実行するためのオープンソースランタイム。`ollama pull llama3`の1コマンドでモデルのダウンロードから起動までを自動化。macOS/Windows/Linux対応・GGUF形式・OpenAI互換REST API提供。2024年時点でGitHubスター9万超。

Ollamaとは？（オラマ）意味・特徴をわかりやすく解説

Ollama 完全ガイド 2025 — ローカルLLM実行環境の構築とモデル管理

OllamaはmacOS・Windows・Linuxで動作するローカルLLM実行ランタイム。ollama pull llama3.2の1コマンドでモデルをダウンロードし、ollama run llama3.2で対話が開始できる簡便さが特徴。2023年7月にGitHub公開後、2024年に急成長してスター数9万超（2025年6月時点）に達し、ローカルLLMカテゴリの代表ツールとなっている。

インストールと基本操作

curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.2          # 2GB (3B parameter)
ollama pull qwen2.5-coder:7b  # 4.7GB
ollama run llama3.2           # 対話モード起動
ollama serve                  # API サーバーモード (localhost:11434)

対応ハードウェアと性能

ハードウェア	速度（Llama3.2-3B）	最大モデル
M3 Pro 18GB	60〜80 token/s	13B 4-bit
M3 Max 96GB	80〜120 token/s	70B 4-bit
RTX 4090 24GB	100〜150 token/s	13B FP16 / 70B 4-bit
RTX 3060 12GB	40〜70 token/s	7B FP16 / 13B 4-bit
i9-13900K (CPU)	8〜15 token/s	7B Q4

Apple Silicon最適化: Metal経由でGPU/Neural Engineを活用。M3 Max 96GBではLlama-3.1-70B量子化モデルを実用速度で実行可能。

主要モデルと必要RAM/VRAM

モデル	サイズ	必要RAM	用途
llama3.2:3b	2.0GB	4GB+	軽量チャット
llama3.1:8b	4.7GB	8GB+	汎用チャット
qwen2.5-coder:7b	4.7GB	8GB+	コーディング
llama3.1:70b	40GB	48GB+	高品質チャット
deepseek-r1:7b	4.7GB	8GB+	推論・数学
nomic-embed-text	274MB	2GB+	テキスト埋め込み

Open WebUIとの連携

docker run -d -p 3000:8080 \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  --name open-webui \
  ghcr.io/open-webui/open-webui:main

ブラウザで http://localhost:3000 にアクセスすると個人ChatGPTサーバーが利用可能。

よくある質問（FAQ）

Q1: OllamaとvLLMの使い分けは？ A: 個人・開発用途（Mac/Windows含む）はOllama。NVIDIA GPUの本番大規模サービング（毎秒100+リクエスト）はvLLM。Ollamaは同時リクエスト処理が弱い。

Q2: Ollama実行中のGPUメモリ使用量を制御できますか？ A: OLLAMA_MAX_VRAM 環境変数で上限設定可。ollama psでロード中モデルのVRAM使用量を確認できる。

Q3: Ollamaはクラウドサーバー（Ubuntu）でも動きますか？ A: はい。curl -fsSL https://ollama.com/install.sh | shでLinux対応。NVIDIA GPU自動検出（CUDA）・AMD ROCm対応。A10G/A100での本番利用事例も多い。

まとめ

導入: 1コマンドでインストール・モデル管理・OpenAI互換API提供
Apple Silicon最適化: Metal/ANEでM3 MacでもLlama-3.1-70B動作可能
GitHubスター9万超（2025年6月）でローカルLLM事実上の標準
用途: 個人開発・プロトタイプ・オフライン環境・プライバシー重視

Ollama（オラマ）