AI・機械学習
中級

LocalAI(ローカルエーアイ)

LLM・画像生成・音声認識をOpenAI API互換インターフェースでセルフホストするためのオープンソースサーバー。GPUなしCPUのみでも動作し、単一エンドポイントで複数AIモダリティを統合提供できる。

0 回閲覧
0 いいね
2026/6/8 更新
関連タグ
ローカルLLM
OpenAI互換
セルフホスト
マルチモーダル
CPU推論

LocalAIとは

LocalAIは「ローカルで動くOpenAI」を目指したオープンソースのAIサーバープロジェクトです。イタリア人エンジニアMassimiliano Grassiが2023年3月に公開し、開発コミュニティの貢献でLLM・画像生成・音声認識・Embeddingを一つのサーバーで提供できるまでに成長しました。

最大の特徴はGPUなし、CPUのみでも動作する点です。推論にllama.cppバックエンドを使用するため、一般的なビジネスPCやRaspberry Piでも動かすことができます。

対応機能一覧

OpenAI APILocalAI実装バックエンド
/v1/chat/completionsLLMチャットllama.cpp, GPTQ
/v1/completionsテキスト補完llama.cpp
/v1/embeddingsEmbedding生成bert.cpp, llama.cpp
/v1/images/generations画像生成Stable Diffusion
/v1/audio/transcriptions音声認識Whisper.cpp
/v1/audio/speech音声合成(TTS)piper-tts
/v1/modelsモデル一覧○

Docker Composeによる起動

# docker-compose.yml
services:
  localai:
    image: localai/localai:latest-aio-cpu
    ports:
      - "8080:8080"
    volumes:
      - ./models:/build/models
    environment:
      - THREADS=4
docker compose up -d
# モデルダウンロード(初回のみ)
curl http://localhost:8080/models/apply -H "Content-Type: application/json" \
  -d '{"id": "huggingface@thebloke__mistral-7b-instruct-v0.2-gguf"}'

OpenAI SDKからの接続

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:8080/v1",
    api_key="not-needed"  # LocalAIはAPIキー不要
)

# チャット
response = client.chat.completions.create(
    model="mistral-7b-instruct",
    messages=[{"role": "user", "content": "製造ラインの異常検知手法を教えて"}]
)

# Embedding
embedding = client.embeddings.create(
    model="text-embedding-ada-002",  # LocalAIがマッピング
    input="ローカルAIの活用方法"
)

エアギャップ環境での活用

LocalAIはインターネット接続不要で完全動作するため、以下の用途に特に適しています:

  • 工場・プラント: インターネット接触禁止の製造ライン機器でのAI活用
  • 医療施設: 患者データをクラウドに送れない環境でのLLM文書処理
  • 官公庁・防衛: セキュリティクリアランス要件のある施設
  • 研究機関: 機密研究データのプライバシー保護

Ollamaとの使い分け

Ollamaが「LLM専用・使いやすさ優先」なのに対し、LocalAIは「マルチモーダル・OpenAI完全互換」を重視します。既存のOpenAI APIクライアントコードをほぼ変更なくセルフホストに移行したい場合、LocalAIが最適な選択です。

まとめ

LocalAIは単なるLLMサーバーを超え、LLM・画像・音声・Embeddingを統合したAIプラットフォームです。GPU不要での動作とOpenAI API完全互換という組み合わせにより、あらゆる組織が既存コードを変更せずにセルフホストAIに移行できます。

この記事について
カテゴリーAI・機械学習
難易度中級
作成日2026/6/8