Rerank/Cross-Encoder（リランククロスエンコーダー）
検索結果再ランキングモデル。Cohere Rerank 3.5・BAAI/bge-reranker-v2-m3・Jina Reranker v2 Multilingual・Mixedbread mxbai-rerank-large-v2・Voyage rerank-2・Qwen3-Reranker-8B・RankGPT・ColBERT v2・ELEVATER・CrossEncoder(sentence-transformers)・2026年RAG精度向上に必須、HNSW top-100→top-10 rerank定番。
概要
Rerank/Cross‑Encoder は、検索エンジンが返す候補文書を再度順位付けするモデルである。
検索前に取得した上位 100 件を入力として、文脈を考慮したスコアを算出し、最終的に 10 件に絞り込む。
2025 年の RAG（Retrieval‑Augmented Generation）での精度向上は、HNSW で抽出した top‑100 を Cross‑Encoder で top‑10 に再ランクする手法が主流となっている。
主な特徴・仕組み
- 双方向 Transformer を用い、クエリと文書を同時にエンコードする。
- 文脈依存スコア を算出し、単語頻度だけでは捉えられない意味的関係を反映。
- HNSW（Hierarchical Navigable Small World） で高速に候補を絞り、Cross‑Encoder で精度を高める。
- 2026 年の最新モデルは、パラメータ数 8 B で 10 ms の推論遅延を実現。
- 低メモリ版は 0.5 GB の RAM で動作し、デスクトップ GPU でも 0.2 GB VRAM で実行可能。
スペック/製品比較表
| 製品名 | パラメータ | 次元 | 推論遅延 | 精度 (NDCG@10) |
|---|---|---|---|---|
| Cohere Rerank 3.5 | 3.5 B | 384 | 12 ms | 0.92 |
| BAAI/bge‑reranker‑v2‑m3 | 2.5 B | 384 | 10 ms | 0.90 |
| Jina Reranker v2 Multilingual | 3.0 B | 512 | 9 ms | 0.91 |
| Mixedbread mxbai‑rerank‑large‑v2 | 4.0 B | 512 | 8 ms | 0.93 |
具体例・対応製品
- Cohere Rerank 3.5： 3.5 B パラメータ、384 次元、10 ms 推論。
- BAAI/bge‑reranker‑v2‑m3： 2.5 B、384 次元、10 ms。
- Jina Reranker v2 Multilingual： 3.0 B、512 次元、9 ms。
- Mixedbread mxbai‑rerank‑large‑v2： 4.0 B、512 次元、8 ms。
- Voyage rerank‑2： 1.8 B、384 次元、11 ms。
- Qwen3‑Reranker‑8B： 8.0 B、768 次元、7 ms。
- RankGPT： 2.0 B、512 次元、10 ms。
- ColBERT v2： 2.0 B、384 次元、12 ms。
- ELEVATER： 1.5 B、384 次元、13 ms。
- CrossEncoder (sentence‑transformers)： 1.0 B、384 次元、15 ms。
自作PCでの選び方・注意点
- GPU の VRAM が 0.2 GB 以上あることを確認。
- CPU は 8 コア以上、クロック 3.0 GHz 推奨。
- メモリは 16 GB 以上、推奨 32 GB。
- SSD の読み込み速度 500 MB/s 以上。
- 電源は 650 W 以上、80 + Gold 以上。
- 冷却ファンは 120 mm 以上、静音設計。
- OS は Ubuntu 22.04 LTS 推奨。
- CUDA 12.0 以上、cuDNN 8.9 以上。
- 10 ms 推論を目指すなら 10 k QPS で動作確認。
- 低遅延を維持するために、HNSW の k 値を 256 に設定。
関連用語との違い
- BM25 は統計的手法で、語彙頻度のみを評価。Cross‑Encoder は文脈を考慮。
- Dense Retrieval は埋め込みベクトルのみで類似度計算。Rerank は再度スコアを算出。
- FAISS は高速検索ライブラリで、Rerank は検索結果の順位付けに特化。
- ColBERT はトークンレベルの埋め込みを用いるが、Cross‑Encoder は文全体を一括でエンコード。
よくある質問
Q1. Rerank/Cross‑Encoder は GPU なしでも動作しますか？
A1. はい、CPU で実行可能ですが、推論遅延は数百 ms になるため、リアルタイム用途には不向きです。
Q2. どのモデルが最も高速ですか？
A2. Qwen3‑Reranker‑8B は 7 ms 推論で最速ですが、パラメータ数が多くメモリ要件が高いです。
Q3. 2026 年の最新モデルはどのように差別化されていますか？
A3. 2026 年版は 8 B パラメータで 10 ms 推論を実現し、HNSW top‑100→top‑10 の再ランクで 0.92 NDCG@10 を達成しています。
まとめ
Rerank/Cross‑Encoder は、検索結果の精度を劇的に向上させる次世代技術である。
2025 年の RAG での導入が進み、2026 年には 8 B パラメータで 10 ms の推論遅延を実現したモデルが登場。
自作PC での構築は GPU の VRAM とメモリ容量が鍵であり、推奨スペックを満たすことで 10 k QPS で安定稼働が可能。
BM25 等の従来手法と比較して、文脈を考慮したスコアリングが大きな差別化要因。
次世代の検索エンジンを構築する際は、Cross‑Encoder を組み込むことで、ユーザーにとって最適な情報を迅速に提供できる。