Granite 4 H-Tiny（グラナイトフォーエイチタイニー）

概要

Granite 4 H-Tiny は、IBM Research が 2026 年に公開した Granite 4 世代の超小型 LLM です。H(Hybrid)は、Mamba/SSM(State Space Model)と Transformer Attention を組み合わせたハイブリッドアーキテクチャを意味します。Tiny サブグレードはエッジ推論・オンデバイス推論・プライベートクラウドのコンパクトデプロイ向けで、3B 級のパラメータ数ながら 7B-13B 級の品質を狙う設計が特徴です。

エンタープライズ向けの最大の差別化要因は、学習データセットのライセンス整理を徹底している点です。インターネットから無差別に収集した一般的な OSS LLM とは異なり、IBM が訴訟リスクを「インデムニファイ(損害補償)」できるレベルでデータソースを管理しています。これは規制業種(金融・医療・公共)で生成 AI を導入する企業にとって、極めて重要なコンプライアンス要件を満たします。

主な特徴・仕組み

• パラメータ: 3B クラス、Hybrid SSM/Transformer 構造で長文処理メモリ効率に優れる。
• ライセンスクリーンな学習データセット、IBM watsonx 経由で indemnification 提供。
• Apache 2.0 ライセンスでオープンウェイト、商用利用可能。
• コンテキスト窓 128K、長文要約や RAG ベース利用に対応。
• ツール呼出(Function Calling)対応、エージェント運用も可能。
• LM Studio / Ollama / vLLM / TGI などの主要ランタイムで動作。

エンタープライズ LLM 比較

自作PCでの選び方・注意点

3B クラスなので、4bit 量子化で約 2GB の VRAM/メモリで動作します。Raspberry Pi 5 や Apple Silicon M2/M3 系の MacBook、RTX 3050 など、廉価な構成でも実用速度(20-50 tok/s)が得られます。

エッジデバイスや IoT ゲートウェイへの組込にも適しており、IBM Research は Apple Neural Engine(MLX)・Qualcomm NPU・Intel NPU 向けの量子化版もコミュニティ経由で配布しています。エンタープライズ用途では IBM watsonx を経由することで、運用ログ・モデル管理・SLA をワンストップで提供する利点もあります。

関連用語との違い

• Granite 4 Small / Medium / Large: 同シリーズの上位サイズ。Tiny は最も軽量で組込特化。
• Granite Code: コード特化版。Granite 4 H-Tiny は汎用バランス型。
• Phi-4 mini: Microsoft の小型 LLM。indemnification がない点で企業導入のハードルあり。

よくある質問(FAQ)

Q1: なぜエンタープライズで Granite が選ばれるのですか? A: 学習データが IBM 管理下でクリーンに整理されており、生成物による著作権訴訟リスクを IBM が補償する点が大きな差別化要因です。OSS で他に同等の補償を提供するベンダーは限られています。

Q2: 3B モデルで本当に実用になりますか? A: 単純なチャットや RAG 検索の応答生成、ドキュメント要約程度なら 3B でも十分実用的です。複雑な推論や長文生成では Granite 4 Small(8B)以上を推奨します。

Q3: Raspberry Pi 5 で動きますか? A: 4bit 量子化(GGUF Q4_K_M)で約 2GB、Pi 5(8GB RAM)で 5-10 tok/s 程度の応答速度が出ます。エッジ推論ノードとしては十分実用的です。

まとめ

• 2026 年公開、IBM Granite 4 シリーズの超小型エッジ LLM
• ライセンスクリーン学習データで企業 indemnification 対応
• Hybrid SSM/Transformer で長文処理効率に優れる
• Raspberry Pi 5 / RTX 3050 級の廉価機でも実用速度