Llamafile (Mozilla OSS Single-File LLM Executable・2023年)（ラマファイル）
2023年Mozilla Builders Project発表のLlamafile・Justine Tunney (元Google Cosmopolitan Libc作者) 主導の OSS Single-Binary LLM Executable framework。Apache 2.0 License・GitHub Star 22k+ (2024年Q4)・llama.cpp + Cosmopolitan Libc 統合で「単一バイナリで Windows/macOS/Linux/FreeBSD/OpenBSD/NetBSD 6 OS同時実行可能」のAPE (Actually Portable Executable) 方式・モデル + LLM runtime + Webサーバ + UI を1ファイル化・Wifi無Offline実行・USB stick配布可能のExtreme Portability実現の革新的OSS。
概要
Llamafile は、2023年11月にMozilla Builders Project (Mozilla Foundation主催のOSS研究Incubator) が発表したOSS Single-Binary LLM Executable framework。Justine Tunney (元Google・Cosmopolitan Libc作者・APE Format発明者) 主導開発・Apache 2.0 License・GitHub Star 22,000+ (2024年Q4) ・累計DL 500万+。llama.cpp (Text Generation engine) + Cosmopolitan Libc (Cross-OS C library) 統合により「単一バイナリで Windows / macOS / Linux / FreeBSD / OpenBSD / NetBSD の6 OS同時実行可能」というAPE (Actually Portable Executable) 方式を実現。LLM model weights (GGUF) + llama.cpp runtime + Web UIサーバ + Documentation を1ファイル化 (例: llava-v1.5-7b-q4.llamafile 約4GB) ・ダブルクリック起動でHTTP server (localhost:8080) 立上 + Web UI Browser操作 + Offline完全動作・USB stick配布可能。Extreme Portability実現の革新的OSSとしてHacker News / Reddit / Tech mediaで2023-2024年最も注目を集めたMLOps projectの一つ。
主な特徴・仕組み
- APE Format: Actually Portable Executable・1バイナリで6 OS (Windows/macOS/Linux/FreeBSD/OpenBSD/NetBSD) 実行
- Cosmopolitan Libc: Justine Tunney氏作のCross-OS C library・OS固有syscall抽象化
- llama.cpp統合: Inference engine + GGUF model format対応
- Web UI: Built-in HTTP server (port 8080) + Browser UI (Chatbot interface)
- Offline: Wifi切断状態完全動作・Air-gapped環境対応
- USB Distribution: USB stick / SD card / DVD配布可能・Internet不要セットアップ
- Compilation: x86-64 + ARM64両対応・各CPU向け最適化
- License: Apache 2.0 (OSS・Mozilla Builders Project所属)
- Size: 例 LLaVA-1.5-7B Q4 約4GB / Llama 3.1 8B Q4 約4.5GB / Phi-3 Mini Q4 約2.3GB
- Use Case: Educational / Privacy重視 / Air-gapped (政府/医療/金融) / Offline demo / Conference distribution
スペック比較表
| Local LLM | Format | Cross-OS | Offline | USB配布 |
|---|---|---|---|---|
| Llamafile | Single Binary (APE) | ◎ (6 OS) | ◎ | ◎ |
| Ollama | Native + Model file | ○ (Win/Mac/Linux) | ○ | △ |
| LocalAI | Docker + Model file | ○ (Docker依存) | ○ | △ |
| llama.cpp | Binary + Model file | ○ (各OS別build) | ○ | △ |
| LM Studio | App + Model file | ○ (Win/Mac/Linux) | ○ | △ |
具体例・対応製品
- LLaVA-1.5 7B Llamafile: 4GB single file・Vision Language Model + Web UI・ダブルクリック起動
- Llama 3.1 8B Llamafile: 4.5GB・Meta公式model・factual quality重視
- Phi-3 Mini Llamafile: 2.3GB・Microsoft Small Language Model・低スペック端末対応
- Mistral 7B Llamafile: 4GB・Mistral社公式・コーディング/RAG用途
- TinyLlama Llamafile: 600MB・1.1B parameter・USB stick配布最小サイズ
自作PCでの選び方・注意点
Llamafile は「Air-Gapped Environment LLM」「USB stick配布LLM」「Privacy重視 (Offline完全動作)」「Educational/Conference demo」用途の本命OSS。Ollama (Native install要・各OS別) / LocalAI (Docker前提) と異なり、単一バイナリ ダブルクリック起動 / Internet不要 / OS依存最小の Extreme Portability実現で「Tech非専門者にも配布可能なLLM」を実現。Air-Gapped環境 (政府機関・軍事・医療法人・金融機関・原子力施設) でのLLM運用にも適合 (Network経由model pull不要)。USB stick配布 (4-8GB sufficient for Llama 3.1 8B Q4) で Conference / Workshop / Educational demoに最適。一方Multi-User Server運用 / Production API endpoint用途はLocalAI/Ollama推奨 (LlamafileはSingle-User Browser UI中心設計)。Apache 2.0 OSS + Mozilla Foundation backing で長期持続性確保・Justine Tunney氏のCosmopolitan Libc継続開発が前提条件。
関連用語との違い
- vs Ollama: Llamafileは1バイナリ + Cross-OS + USB配布・OllamaはNative install + Model別管理
- vs LocalAI: LlamafileはSingle-User Browser UI + Offline・LocalAIはMulti-User OpenAI API Server
- vs llama.cpp: 両方llama.cpp engine使用・LlamafileはAPE format + Web UI + Distribution優位
- vs USBOS LLM: 概念類似だがLlamafileは1ファイルで完結・USB OS install不要
よくある質問（FAQ）
Q1: なぜ1ファイルで6 OS動作可能？ A: Justine Tunney氏のCosmopolitan Libc利用。同一バイナリにWindows PE / Linux ELF / macOS Mach-O / BSD等のheader同時埋込みで各OS Kernelが認識・各OS固有syscallは Cosmopolitan Libc が抽象化。
Q2: USB stick配布したい時のサイズは？ A: Llama 3.1 8B Q4で約4.5GB・TinyLlama 1.1B Q4で600MB・Phi-3 Mini Q4で2.3GB。USB stick 8GB+でLlama 3.1 8B Q4 + 余裕Documentation配布可能。
Q3: AppleやWindows Defenderにブロックされる？ A: 一部Antivirus誤検知 (APE format不慣れによる)。Windows Defender / macOS Gatekeeper Sign 必要時はAdministrator/Developer署名 + Antivirus whitelist登録必要・OSS Apache 2.0なのでsource code検証も可能。
まとめ
Llamafile = 2023年Mozilla Builders Project発表のOSS Single-Binary LLM Executable。Justine Tunney主導・Apache 2.0・GitHub 22k Star・llama.cpp + Cosmopolitan Libc統合で1バイナリで6 OS実行可能のAPE方式。Offline + USB配布対応のExtreme Portability実現する革新的Portable LLM・Air-Gapped/Educational/Conference demo用途の本命選択肢。