概要\n\nGroq LPU(Language Processing Unit)はGroq社(2016年米国Mountain View創業、創業者Jonathan Ross/前Google TPU第1世代設計者)が2024年に商用化したLLM(Large Language Model)推論専用 ASIC で、世界最速のLLM 1トークン推論速度を達成して2024年AI業界を震撼させたチップ。GroqChip 1(初代、2019年シリコン完成、2024年商用化)・GroqChip 2(2025年予定)を展開、Tensor Streaming Processor(TSP)アーキテクチャ採用、230MB SRAM完全オンチップ(HBM 不使用)・80TB/s メモリ帯域・決定的実行モデル(Deterministic Execution)で GPU の 100倍程度の応答速度を実現。Llama 3 70B モデルを 500 tokens/sec、Llama 3 8B を 1,250 tokens/sec、Mistral 8x7B を 480 tokens/sec、GPT-4o 相当モデルなら 250-300 tokens/sec という驚異的速度で推論する。NVIDIA H100($25,000/700W)を Llama 3 70B 推論で約60倍上回る tokens/sec 性能、消費電力は LPU カード250W ×8基構成。Groq Cloud(2024-02-公開) で API 経由利用可、Llama 3 70B が $0.59/M tokens(NVIDIA H100ベース $0.65 より低価格)で個人開発者・スタートアップ・大企業まで幅広く利用、ChatGPT plugin 経由統合事例も増加。Cerebras WSE-3(Wafer Scale Engine、2024-03、85万コア・40GB SRAM)と並び NVIDIA独占への挑戦勢力筆頭、2024年Series D調達 $640M(価値$2.8B)、Saudi Arabia等中東巨大投資受け2025年100万LPU 量産計画。\n\n## 主な特徴・仕組み\n\n- 創業: 2016年Jonathan Ross(前Google TPU設計者)、Mountain View\n- アーキテクチャ: Tensor Streaming Processor(TSP)、決定的実行\n- メモリ: 230MB SRAM 完全オンチップ、HBM 非使用、80TB/s帯域\n- 演算: 750 TOPS INT8、188 TFLOPS BF16(GroqChip 1)\n- 推論速度: Llama 3 70B 500 t/s、Mixtral 8x7B 480 t/s、Llama 3 8B 1250 t/s\n- 価格(API): Llama 3 70B $0.59/M tokens、Mixtral $0.27/M tokens\n- 採用: Groq Cloud API、ChatGPT plugin、Aramco/G42 中東企業\n- NVIDIA対比: H100 比 60倍 token/sec、価格半額、推論専用特化\n\n## スペック比較表\n\n| チップ | 公開年 | 推論速度(Llama 3 70B) | メモリ | 価格(API) | 用途 |\n|--------|--------|-----------------------|--------|-----------|------|\n| NVIDIA H100 SXM | 2022 | 30 t/s | HBM3 80GB | $0.65/M | 万能 |\n| NVIDIA B200 SXM | 2024 | 80 t/s予想 | HBM3e 192GB | TBD | 最強万能 |\n| Google TPU v5p | 2024 | 50 t/s予想 | HBM2e 95GB | $1.00/M | 学習主流 |\n| Groq LPU GroqChip 1 | 2024 | 500 t/s | SRAM 230MB | $0.59/M | 推論特化 |\n| GroqChip 2 (予定) | 2025 | 1000 t/s予想 | SRAM 拡張 | TBD | 最速 |\n| Cerebras WSE-3 | 2024 | 1000 t/s+(Llama 3 405B) | SRAM 44GB | $1.20/M | 大規模 |\n| AWS Trainium2 | 2024 | 30 t/s予想 | HBM 96GB | $0.40/M | AWS |\n| SambaNova SN40L | 2024 | 200 t/s | HBM 1.5TB | $0.30/M | 推論RAG |\n\n## 具体例・対応製品\n\n- GroqChip 1 (2019シリコン完成、2024商用化): 750 TOPS INT8、230MB SRAM\n- Groq Cloud (2024-02公開): groq.com、API $0.59/M tokens\n- Llama 3 70B 推論記録: 500 tokens/sec、世界最速の Llama 3 70B 推論\n- Aramco/G42 (2024-12): サウジ Aramco/UAE G42 が Groq LPU 大量採用契約\n- GroqChip 2 (2025予定): SRAM 容量2倍、推論速度1000 t/s予想\n\n## 自作PCでの選び方・注意点\n\nGroq Cloud活用 PC構成例: (A)個人開発¥150,000構成: M3 Mac mini 16GB(¥130,000) + Groq Cloud API、Llama 3 70B 推論を$10/月で快適開発、(B)スタートアップ¥400,000構成: Mac Studio + Groq Cloud月$500、ChatGPT 代替アプリ開発、(C)企業¥1,500,000+構成: GPU ローカル開発(RTX 4090×2 ¥580,000) + Groq Cloud月$5,000、ハイブリッドAI構築。Groq LPU は個人購入不可・Groq Cloud API のみ、ローカル LLM 推論代替に最強選択肢、ただし学習用途は不可(推論専用ASIC)。NVIDIA H100/B200 と比較しトークン速度で60倍だが、Llama/Mixtral等のオープンモデル限定、独自Fine-tune モデル運用は実装中。Cerebras WSE-3 と Llama 3 405B 大規模対応で競合、用途で住み分け。\n\n## 関連用語との違い\n\nNVIDIA H100/B200: 万能AI GPU、学習+推論両用 $25,000-$50,000。Groq LPU は推論専用・60倍速度・低価格、用途で完全分離。両者併用が主流(学習はH100、推論はGroq)。\n\nCerebras WSE-3: ウェーハスケール40GB SRAM、Llama 3 405B対応。Groq LPU は中規模モデル(70B)主軸、超大規模はCerebrasが優位。\n\n## よくある質問(FAQ)\n\nQ1: Groq Cloud と OpenAI API どっち?\nA: 速度+価格優先で Llama 3/Mixtral 系なら Groq Cloud、最高品質で GPT-4o/Claude 必要なら OpenAI/Anthropic。Groqは オープンモデル限定、独自モデルなし。\n\nQ2: 何故 SRAM だけで動く?\nA: 230MB SRAM x 8基 = 1.84GB だけ、Llama 3 70B(40GB) は8基カード並列で分散保持。決定的実行+SRAM完全オンチップで GPU の HBM 帯域ボトルネック解消。\n\nQ3: 学習できる?\nA: GroqChip 1 は推論専用、学習機能なし。Cerebras WSE-3/NVIDIA/TPU が学習選択肢、Groq は推論市場特化戦略。\n\n## まとめ\n\n- Groq社2024商用化LLM推論専用ASIC\n- Llama 3 70B 500 tokens/sec で世界最速推論\n- 230MB SRAM完全オンチップ、決定的実行\n- Groq Cloud API $0.59/M tokens、価格優位\n- NVIDIA独占への挑戦筆頭、2025年100万チップ量産