AI・機械学習
中級
SigLIP（シグリップ）
Google が 2023 年に提案した、Sigmoid 損失を採用した視覚言語モデル。従来の CLIP の Softmax コントラスト損失を置き換え、小バッチでも高品質な画像テキスト埋め込みを実現する。
0 回閲覧
0 いいね
2026/6/6 更新
関連タグ
vision-language
contrastive-learning
google
clip
embedding
SigLIP とは
SigLIP（Sigmoid Loss for Language-Image Pre-Training）は Google Research が 2023 年に発表した視覚言語事前学習手法。CLIP の Softmax ベースのコントラスト損失を Sigmoid 損失に置き換えることで、バッチサイズへの依存を大幅に低減した。
CLIP との根本的な違い
CLIP の InfoNCE/Softmax 損失は、バッチ内の全ペアを正規化に使う設計上、大バッチ（数万件）でないと安定学習が難しい。SigLIP は各（画像、テキスト）ペアを独立した二値分類問題として扱い、正ペアなら 1、負ペアなら 0 を目標とする sigmoid cross-entropy を適用するため、小バッチ（数百件）でも安定した学習が可能。
アーキテクチャバリエーション
- SigLIP-B/16: 画像解像度 224px、~86M パラメータ、軽量タスク向け
- SigLIP-L/16: 画像解像度 384px、~307M パラメータ、高精度分類向け
- SigLIP-So400M: 画像解像度 384px、~400M パラメータ、最高性能
- SigLIP 2 (2025): 画像解像度 512px、~400M パラメータ、動画・多言語対応
主な特徴
- バッチサイズ非依存: 損失関数が各ペア独立のため、分散学習時のシャーディングが容易
- 性能向上: ImageNet ゼロショット分類で CLIP を上回るスコア
- 多言語対応: mSigLIP は 100+ 言語対応
- Google エコシステム統合: PaliGemma/Gemma 3 の視覚エンコーダとして標準採用
SigLIP 2（2025 年）の改善点
2025 年 2 月発表の SigLIP 2 は、動画フレームへの拡張・多言語対応強化・解像度柔軟性（NaFlex）を追加し、Gemma 3 など最新視覚言語モデルに組み込まれている。
活用シーン
- 視覚言語モデルの視覚エンコーダとして組み込み
- ゼロショット画像分類・画像テキスト検索
- RAG パイプラインの画像インデックス構築