GTE-Qwen2 7B Instruct (Alibaba Multi-task Embedding・2024年)（ジーティーイークウェンツー）

概要

GTE-Qwen2 7B Instruct は、2024年7月にAlibaba Tongyi Lab (阿里巴巴通義実験室・Qwen LLM開発元) が発表したSOTA Multilingual Embedding Model。Alibaba GTE (General Text Embedding) series のFlagship最新Model・Qwen2-7B-Instruct base model + Multi-task Instruction Tuning + Task-specific instruction prompt + 128,000 max sequence length + Multilingual対応 (100+言語) + 3,584次元embedding + Apache 2.0 License・MTEB English score 70.24・MTEB Chinese (中国語Embedding Benchmark) 1位・C-MTEB (Chinese MTEB) Top 3・特に中国語/日本語/韓国語等のCJK言語Retrievalで業界最高峰。Voyage 3-large (英語SOTA) / NV-Embed v2 (英語MTEB 1位) / Stella en 1.5B v5 等の競合と比較して「多言語特化 + 128k長文context + 7B Large parameter (高精度) + Apache 2.0完全OSS」の差別化軸。Hugging Face (Alibaba-NLP/gte-Qwen2-7B-instruct) 公開 + Alibaba DashScope (Aliyun) Managed API 提供。

主な特徴・仕組み

• Base Model: Qwen2-7B-Instruct (Alibaba 2024年6月発表のQwen2 series・7B parameter Multi-lingual LLM)
• Multi-task Instruction Tuning: Retrieval / Clustering / Classification / Reranking task統合学習
• Max Sequence Length: 128,000 tokens (long-context document対応・業界トップクラス)
• Embedding Dimension: 3,584次元 (高次元embedding・Voyage 3 1024次元 vs 3.5倍)
• Multilingual: 100+言語対応・特にCJK (Chinese/Japanese/Korean) 強み
• MTEB English: 70.24 score
• MTEB Chinese: 1位 (2024年Q3時点)
• C-MTEB: Top 3 (Chinese MTEB Benchmark)
• License: Apache 2.0 (OSS・商用可)
• Task-specific Instruction: Given a web search query, retrieve relevant passages that answer the query 等のCustom prompt
• Distribution: Hugging Face SafeTensors + Alibaba DashScope Managed API
• Hardware: NVIDIA GPU推奨 (FP16: A100 24GB VRAM・BF16: A100 16GB・Quantized INT4: 7GB VRAM)

スペック比較表

具体例・対応製品

• GTE-Qwen2 7B (Hugging Face): Alibaba-NLP/gte-Qwen2-7B-instruct・Apache 2.0・Self-Host対応
• GTE-Qwen2 1.5B: 兄弟model・1.5B parameter・MTEB English 67.16・Cost-efficient
• Alibaba DashScope API: Aliyun Managed API・$0.15/1M tokens (推定・中国市場主軸)
• GTE-large-en-v1.5 (前世代・2024年3月): 335M parameter・MTEB 65.39・最廉価Embedding
• 競合 BGE-M3 (BAAI 2024年1月): MIT・567M・100言語・MTEB Chinese Top 5

自作PCでの選び方・注意点

GTE-Qwen2 7B Instruct は「中国語/日本語/韓国語Multilingual RAG application」「128k long-context document Embedding」「Apache 2.0完全OSS + 商用利用」用途の本命model。MTEB English 70.24はNV-Embed v2 (72.31) / Voyage 3 (72.05) より若干劣るが、MTEB Chinese 1位 + C-MTEB Top 3 + 128k long-context (NV-Embed v2 32k vs 4倍) + 100+言語対応の3点で 多言語特化Retrieval分野では最高峰。日本国内 Multilingual RAG (英日中混在document) や中華圏Enterprise (Aliyun customer等) でのRetrieval system構築には NV-Embed v2 より GTE-Qwen2推奨。7B parameterはNVIDIA A100 24GB (FP16) / A100 16GB (BF16) / 7GB VRAM (INT4 Quantized) で実用速度推論可能。3,584次元高次元embeddingはStorage / Index cost 大 (Voyage 3 1024次元 vs 3.5倍) で Production deploy時はQuantized variant + Matryoshka学習併用model検討推奨。Alibaba Tongyi Lab + Qwen2 base のため 中国Vendor lock-in懸念ない (Apache 2.0完全OSS)。

関連用語との違い

• vs NV-Embed v2: GTE-Qwen2 7BはMTEB Chinese 1位 + 128k context + Multilingual・NV-Embed v2 はMTEB English 1位 + 32k context + 中心英語
• vs BGE-M3: GTE-Qwen2 7Bは7B大型 + 128k context + 高精度・BGE-M3は567M小型 + MIT + 軽量
• vs Jina Embeddings v3: GTE-Qwen2は7B + Apache 2.0完全OSS・Jina v3 は570M + CC BY-NC + Matryoshka対応

よくある質問（FAQ）

Q1: 中国語Retrievalで本当に最高峰？ A: MTEB Chinese (Chinese Massive Text Embedding Benchmark・複数中国語Retrieval task統合評価) で2024年Q3時点1位を Alibaba公式に発表・C-MTEB (Chinese MTEB・別Benchmark) でもTop 3。中国語Retrieval system構築時は GTE-Qwen2 7B が第一選択。

Q2: 128k long-context embeddingの実用シナリオは？ A: 長文document (法律契約書・特許明細書・学術論文・技術仕様書等の数万tokens文書) をChunkingせず全体 embed可能で document-level retrieval精度が大幅向上。chunk overhead回避できる。

Q3: 7B parameterで個人PC上で動かせる？ A: 7B + 3,584次元 + 128k contextはConsumer GPU (RTX 4090 24GB) でFP16/BF16実行可能・INT4 Quantized で 7GB VRAM動作可・RTX 3060 12GB等でも実用可。CPU実行は8GB+ RAM必要 (推論速度遅め)。

まとめ

GTE-Qwen2 7B Instruct = 2024年Alibaba Tongyi Lab発表のSOTA Multilingual Embedding Model。Qwen2-7B base + 128k max seq + 100+言語 + 3,584次元 + Apache 2.0・MTEB English 70.24 / MTEB Chinese 1位 / C-MTEB Top 3の多言語特化フラグシップ・中国語/日本語/韓国語Multilingual RAG構築の本命model。