SambaNova SN40L（サンバノバエスエヌヨンジュウエル）
SambaNova Systems製AIチップ。RDU（Reconfigurable Dataflow Unit）アーキテクチャで再構成可能なデータフロー演算を実現し、Llama-3 405Bクラスの超大規模推論をオンプレミスで提供。
SambaNova SN40Lとは
SambaNova SN40Lは、スタンフォード大学のコンピューターアーキテクチャ研究者たちが2017年に創業した米国SambaNova Systemsが2024年に発表したAIアクセラレータ。Intel・Google・HP Enterprise等から累計12億ドル以上を調達し、「再構成可能なデータフロー」という独自アーキテクチャでAI推論市場に参入している。
RDU（Reconfigurable Dataflow Unit）アーキテクチャ
GPUがスレッドベースの命令実行（SIMT）を採用するのに対し、RDUはデータフローグラフベースで動作する。
| 設計軸 | GPU（SIMT） | SambaNova RDU |
|---|---|---|
| 実行モデル | スレッドスケジューリング | データフローグラフ |
| メモリモデル | HBM外部 | チップ内64GB HBM |
| 再構成 | カーネル変更 | ハードウェアレベル再プログラム |
| 最適化対象 | 汎用行列演算 | 特定モデルに最適化 |
「再構成可能」とは、ニューラルネットワークの計算グラフ（レイヤー構造・パラメータサイズ）に応じてハードウェアのデータパスを変更できることを指す。これにより特定モデルへの極限最適化が可能になる。
主要スペック
| 項目 | SambaNova SN40L | NVIDIA H100 |
|---|---|---|
| オンチップHBM | 64GB | 80GB |
| 8チップ構成時容量 | 512GB | 640GB |
| 対応モデルサイズ | 最大700B+ | ～70B（8GPU） |
| 精度 | BF16/FP16/INT8 | BF16/FP8/INT4 |
| ネットワーク | SambaLink | NVLink/NVSwitch |
Galileo推論サービス
SambaNova Galileoはクラウド・オンプレミス両対応のLLM推論サービス。主な特徴:
- 超大規模モデル対応: Llama-3 405B（810GBパラメータ、BF16）を8チップ512GBで稼働
- 高スループット推論: バッチ処理に最適化し1,000tok/s以上を報告
- 金融・医療向け: データガバナンス要件が厳しいオンプレミス展開に対応
採用事例と競合ポジション
| 機関 | 用途 |
|---|---|
| Argonne国立研究所 | 科学的AI計算 |
| 日本のメガバンク | 金融分析・リスクモデル |
| 製薬企業 | 創薬分析・分子設計 |
競合ポジション: Groq（低レイテンシ特化）・Cerebras（ウェーハスケール・トレーニング）・Gaudi 3（コスト効率）と異なり、SambaNova SN40Lは「オンプレミスで超大規模モデル（100B+）を推論したい機関」をターゲットにしている。データ流出リスクを避けたい金融・医療・国防機関に強みを持つ。
今後の展開
2025年にはSN50シリーズ（RDU第4世代）が予告されており、FP8対応と推論スループット2倍改善が見込まれている。NVIDIAのBlackwellアーキテクチャとのコスト・性能競争が激化する見通し。