AI・機械学習
中級
LocalAI(ローカルエーアイ)
LLM・画像生成・音声認識をOpenAI API互換インターフェースでセルフホストするためのオープンソースサーバー。GPUなしCPUのみでも動作し、単一エンドポイントで複数AIモダリティを統合提供できる。
0 回閲覧
0 いいね
2026/6/8 更新
関連タグ
ローカルLLM
OpenAI互換
セルフホスト
マルチモーダル
CPU推論
LocalAIとは
LocalAIは「ローカルで動くOpenAI」を目指したオープンソースのAIサーバープロジェクトです。イタリア人エンジニアMassimiliano Grassiが2023年3月に公開し、開発コミュニティの貢献でLLM・画像生成・音声認識・Embeddingを一つのサーバーで提供できるまでに成長しました。
最大の特徴はGPUなし、CPUのみでも動作する点です。推論にllama.cppバックエンドを使用するため、一般的なビジネスPCやRaspberry Piでも動かすことができます。
対応機能一覧
| OpenAI API | LocalAI実装 | バックエンド |
|---|---|---|
| /v1/chat/completions | LLMチャット | llama.cpp, GPTQ |
| /v1/completions | テキスト補完 | llama.cpp |
| /v1/embeddings | Embedding生成 | bert.cpp, llama.cpp |
| /v1/images/generations | 画像生成 | Stable Diffusion |
| /v1/audio/transcriptions | 音声認識 | Whisper.cpp |
| /v1/audio/speech | 音声合成(TTS) | piper-tts |
| /v1/models | モデル一覧 | ○ |
Docker Composeによる起動
# docker-compose.yml
services:
localai:
image: localai/localai:latest-aio-cpu
ports:
- "8080:8080"
volumes:
- ./models:/build/models
environment:
- THREADS=4
docker compose up -d
# モデルダウンロード(初回のみ)
curl http://localhost:8080/models/apply -H "Content-Type: application/json" \
-d '{"id": "huggingface@thebloke__mistral-7b-instruct-v0.2-gguf"}'
OpenAI SDKからの接続
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:8080/v1",
api_key="not-needed" # LocalAIはAPIキー不要
)
# チャット
response = client.chat.completions.create(
model="mistral-7b-instruct",
messages=[{"role": "user", "content": "製造ラインの異常検知手法を教えて"}]
)
# Embedding
embedding = client.embeddings.create(
model="text-embedding-ada-002", # LocalAIがマッピング
input="ローカルAIの活用方法"
)
エアギャップ環境での活用
LocalAIはインターネット接続不要で完全動作するため、以下の用途に特に適しています:
- 工場・プラント: インターネット接触禁止の製造ライン機器でのAI活用
- 医療施設: 患者データをクラウドに送れない環境でのLLM文書処理
- 官公庁・防衛: セキュリティクリアランス要件のある施設
- 研究機関: 機密研究データのプライバシー保護
Ollamaとの使い分け
Ollamaが「LLM専用・使いやすさ優先」なのに対し、LocalAIは「マルチモーダル・OpenAI完全互換」を重視します。既存のOpenAI APIクライアントコードをほぼ変更なくセルフホストに移行したい場合、LocalAIが最適な選択です。
まとめ
LocalAIは単なるLLMサーバーを超え、LLM・画像・音声・Embeddingを統合したAIプラットフォームです。GPU不要での動作とOpenAI API完全互換という組み合わせにより、あらゆる組織が既存コードを変更せずにセルフホストAIに移行できます。