Liquid Foundation Models (Liquid AI 2024)(リキッドファンデーションモデルズ2024)
Liquid AI 2024年9月発表 Liquid Neural Network ベース LLM。LFM-1B/3B/40B・MIT 系創業・$250M 調達・Transformer 代替
概要
Liquid Foundation Models (LFM) は 2024年9月30日にアメリカ Liquid AI (MIT CSAIL 系創業、Boston Massachusetts 2023年設立、Ramin Hasani CEO + Mathias Lechner CTO + Daniela Rus MIT CSAIL Director Advisor) が発表した Liquid Neural Network ベース基礎モデルシリーズ。LFM-1B (1.3B)・LFM-3B (3.1B)・LFM-40B-MoE (40B/12B active) 3 派生・MIT 系創業・$250M Series A 調達 (2024-12-13、AMD・Duke Capital Partners 主導)・Transformer 代替路線で「Post-Transformer 時代」の新有力候補。
Liquid AI は 2023 年に MIT CSAIL (Computer Science and Artificial Intelligence Laboratory) 出身の Ramin Hasani (Liquid Neural Network 共同発明者、現 CEO)・Mathias Lechner (CTO)・Alexander Amini (CSO)・Daniela Rus (MIT CSAIL Director、Advisor) ら 4名が創業した AI スタートアップ。Liquid Neural Network は 2020-2022 年に MIT で開発された脳科学着想 (線虫 C. elegans の神経回路) のニューラルネットアーキテクチャで、Liquid Time-Constant Networks (LTC、2020)・Closed-Form Continuous-Time (CfC、2022) 等が原型。
革新は (1) Liquid Neural Network ベース: Transformer attention に依存しない独自アーキテクチャ、線虫神経回路着想で「少パラメータで高表現力」(2) エッジ AI 特化: スマホ・組込み機器で動作可能な軽量設計 (3) MoE 採用 (LFM-40B-MoE): 40B 総パラメータ・12B active で性能・効率両立 (4) MMLU 65.4% (LFM-3B、Llama 3.2 3B 60.6% 凌駕) (5) $250M 大型調達 + AMD 戦略投資で商業化加速。
性能は同サイズ Transformer (Llama 3.2 3B / 1B) と互角〜凌駕、特に「エッジデバイスでの推論効率」で圧倒。MIT CSAIL Director Daniela Rus (ロボット工学世界的権威) が Advisor として参画、学術的信頼性高い。Anthropic・OpenAI・Mistral に次ぐ「ハードコア技術ベンチャー」として 2024-2025 年に急成長中。
主な特徴・仕組み
- アーキテクチャ: Liquid Neural Network (LTC/CfC 系統、MIT 開発)
- 着想: 線虫 C. elegans 神経回路 (302 ニューロン)
- 派生モデル: LFM-1B (1.3B)・LFM-3B (3.1B)・LFM-40B-MoE (40B/12B active)
- MMLU: LFM-1B 58.6%・LFM-3B 65.4%・LFM-40B 78.3%
- MMLU-Pro: LFM-3B 37.7%・LFM-40B 50.8%
- コンテキスト: 32K トークン
- VRAM: LFM-1B 2.6GB・LFM-3B 6.2GB・LFM-40B 80GB (active 12B のみで実 24GB)
- エッジ AI 特化: モバイル・組込み機器最適化
- ライセンス: Liquid AI 独自ライセンス (商用利用要相談)
- 調達: $250M Series A (2024-12、AMD・Duke Capital 主導)
- 創業者: Ramin Hasani (CEO・MIT PhD)・Mathias Lechner (CTO)・Daniela Rus (MIT CSAIL Director Advisor)
- OS バージョン: LFM v1.0 (2024-09)・LFM-2 系統 (2025 予定)
スペック比較表
| 項目 | LFM (Liquid AI 2024) | Mamba | xLSTM | Falcon Mamba | Llama 3.2 3B |
|---|---|---|---|---|---|
| アーキテクチャ | Liquid NN | SSM | LSTM 拡張 | Pure Mamba | Transformer |
| 派生サイズ | 1B/3B/40B-MoE | 130M-2.7B | 1.4B/7B | 7B | 1B/3B |
| MMLU (3B) | 65.4% | unknown | unknown | unknown | 60.6% |
| 創業 | MIT CSAIL | CMU/Princeton | Linz Institute | UAE TII | Meta |
| 調達 | $250M | 研究 | NXAI 創業 | TII (国家) | Meta |
| 商業化 | 急速展開 | 一部 | NXAI 商業化 | Apache 2.0 | Llama 3 License |
具体例・対応製品
- Liquid AI Playground: 公式 Web UI、無料試用可
- LFM-1B (公開予定): 軽量版、エッジ AI 向け
- LFM-3B: 中規模版
- LFM-40B-MoE: 最上位版、エンタープライズ向け
- AMD 戦略提携 (2024-12): Liquid AI モデルを AMD GPU 最適化、AMD Instinct MI300 等で高速動作
選び方・注意点
- MIT CSAIL 信頼性: Daniela Rus Director Advisor で学術的バックボーン強固
- エッジ AI 最強: モバイル・組込みで Transformer より圧倒的軽量
- AMD 提携: NVIDIA GPU 依存から脱却、AMD Instinct GPU エコシステム参入
- MMLU 性能: LFM-3B 65.4% で同サイズ Llama 3.2 3B (60.6%) 凌駕、3B クラスで業界最強級
- ライセンス独自: Apache 2.0 ではなく Liquid 独自、商用は要相談、Falcon Mamba (Apache 2.0) と差別化
- $250M 調達の意味: AI スタートアップで Anthropic ($7B+) ・Mistral ($1B) より少額だが、技術深堀型ベンチャーとしては十分
- Post-Transformer 系統の有力候補: Mamba (CMU)・xLSTM (Linz)・LFM (MIT) の 3 大派閥、各々独自路線
関連用語との違い
| 用語 | 違い |
|---|---|
| Liquid Foundation Models (Liquid AI 2024) | Liquid NN・MIT CSAIL・$250M 調達 |
| Mamba (Gu & Dao 2023) | SSM 系統 |
| Mamba-2 (Tri Dao 2024) | SSD 統一 |
| Falcon Mamba (TII 2024) | Pure Mamba 7B |
| xLSTM (Sepp Hochreiter 2024) | LSTM 拡張系統 |
よくある質問(FAQ)
Q1: Liquid Neural Network とは? A: 2020-2022 年に MIT CSAIL で Ramin Hasani・Mathias Lechner・Daniela Rus らが開発した連続時間ニューラルネット。線虫 C. elegans (302 ニューロンで完璧な神経地図持つ唯一の生物) の神経回路に着想を得て、(1) 連続時間 ODE で動作 (2) 少パラメータで高表現力 (3) 解釈性高い (4) 動的環境適応能力。元来はロボット制御・自動運転向けだが、LLM スケールに拡張したのが LFM。
Q2: なぜ AMD が戦略投資? A: NVIDIA CUDA 独占 (AI GPU 市場 95% シェア) に AMD が挑戦中、自社 ROCm エコシステムを強化したい。Liquid AI は「Transformer に依存しない新アーキテクチャ」で AMD GPU 最適化と相性良い、AMD Instinct MI300 GPU での LFM 高速動作を実現すれば「AMD AI スタック」差別化可。AMD 戦略投資 $250M 主導の動機。
Q3: Transformer を置き換える? A: 完全置換は未だ難しいが、エッジ AI・モバイル AI・組込み AI 領域では LFM の優位性大。データセンター大規模学習は Transformer が依然優勢、エッジ + クラウドの住み分けが現実。Hasani は「Transformer は GPU 中心、LFM はあらゆるハードウェアで動作」と差別化主張。
まとめ
- アメリカ Liquid AI 2024年9月発表・Post-Transformer 系統
- LFM-1B/3B/40B-MoE 3 派生・MIT CSAIL 系創業
- $250M Series A 調達 (AMD 主導)・線虫神経回路着想
- LFM-3B MMLU 65.4% で Llama 3.2 3B 凌駕
- エッジ AI 最強・Transformer 代替の新有力候補