text-embedding-3-large (OpenAI 2024)（テキストエンベディングスリーラージ2024）
OpenAI 2024年1月発表 Embedding 第3世代。3072次元・MTEB 64.6→71.0・Matryoshka 次元削減対応・$0.13/1M
概要
text-embedding-3-large は 2024年1月25日に OpenAI が発表した Embedding 第3世代モデル（公式 model ID: text-embedding-3-large）。3072 次元（最大）・MTEB 71.0 平均（旧 text-embedding-ada-002 の 61.0 から +10 ポイント大幅向上）・Matryoshka Representation Learning で次元削減対応（256/512/1024/3072 任意選択）・$0.13/1M トークンで商用 Embedding の事実上標準。
OpenAI Embedding は (1) 2020 年 text-embedding-ada-001（初代）(2) 2022 年 text-embedding-ada-002（普及）(3) 2024 年 text-embedding-3-small（軽量、$0.02/1M）+ text-embedding-3-large（高性能、$0.13/1M）と進化。ada-002 は 2022-12 公開以来「事実上標準」として広く採用されていたが、Cohere・Voyage・E5-Mistral 等の追い上げで性能差問われ、第 3 世代で挽回。
最大の革新は Matryoshka Representation Learning (MRL)（Aditya Kusupati 2022 発表手法）：1 つのモデルが「3072 次元の前半 1024 次元だけ使っても性能維持」する性質を持つよう学習、ベクトル DB のメモリ・コスト最適化に革命。256 次元で MTEB 62.3、1024 次元で 67.6、3072 次元で 71.0 と用途別選択可。
価格 text-embedding-3-large = $0.13/1M トークン、text-embedding-3-small = $0.02/1M、ada-002 = $0.10/1M。3-small は ada-002 の 5 分の 1 価格で性能上回り、ほぼ全シナリオで第 3 世代へ移行。
主な特徴・仕組み
- 次元数: 3072（最大）/ Matryoshka で 256-3072 任意選択可
- コンテキスト長: 8,191 トークン
- MTEB 平均: 71.0（3072 次元）・67.6（1024）・62.3（256）
- 派生: text-embedding-3-large ($0.13/1M)・3-small ($0.02/1M)・ada-002 ($0.10/1M)
- Matryoshka Learning: 次元削減可・1024 次元で性能 95% 維持
- 多言語: 100+ 言語対応、ada-002 比で多言語性能大幅向上
- API: REST API + Python / Node.js / Go SDK
- 対応 LLM: GPT-4・GPT-4o・GPT-4o-mini 等 OpenAI モデルと統合最適化
- 料金請求: OpenAI 統一請求、ChatGPT Plus との一括請求も可
- OS バージョン: text-embedding-3-large (2024-01)・3-small (2024-01)
スペック比較表
| 項目 | text-embedding-3-large (2024) | ada-002 (2022) | text-embedding-3-small | Voyage-3 |
|---|---|---|---|---|
| 次元 | 3072 | 1536 | 1536 | 1024 |
| コンテキスト | 8K | 8K | 8K | 32K |
| MTEB 平均 | 71.0 | 61.0 | 62.3 | 71.8 |
| Matryoshka | あり | なし | あり | なし |
| 価格 | $0.13/1M | $0.10/1M | $0.02/1M | $0.06/1M |
| API 統合 | OpenAI エコシステム | OpenAI | OpenAI | Voyage AI |
具体例・対応製品
- OpenAI API text-embedding-3-large: $0.13/1M、Python / Node.js / Go SDK
- Azure OpenAI text-embedding-3-large: Azure 統合エンタープライズ版
- LangChain OpenAI Embeddings: 標準サポート、3 行で利用可
- LlamaIndex OpenAI Embedding: 標準サポート
- Pinecone / Weaviate / Chroma / Qdrant: 全ベクトル DB が text-embedding-3-large 対応
選び方・注意点
- OpenAI エコシステム最適: GPT-4 / GPT-4o との組合せで料金請求一本化、開発体験統一
- Matryoshka 活用: 3072 → 1024 次元で性能 95% 維持 + メモリ 67% 削減、コスト最適化
- Voyage-3 との比較: MTEB ほぼ同等（71.0 vs 71.8）、価格 2倍（$0.13 vs $0.06）、コンテキスト 1/4（8K vs 32K）、Anthropic Claude 利用なら Voyage 一択
- 3-small との使い分け: 大量バッチ（数千万件 Embedding）は 3-small ($0.02/1M)、品質重視は 3-large
- ada-002 からの移行: ほぼ全シナリオで第3世代へ移行推奨、性能向上 + コスト同等 or 削減
- 多言語性能: ada-002 比で日本語含む多言語精度大幅向上、グローバル RAG に最適
- OSS 代替: コスト気になる場合 BGE-M3 / E5-Mistral / Qwen3 Embedding で自社ホスト
関連用語との違い
| 用語 | 違い |
|---|---|
| text-embedding-3-large (OpenAI 2024) | 商用 API・3072次元・$0.13/1M |
| Voyage-3 (Voyage AI 2024) | 商用 API・1024次元・$0.06/1M・Anthropic 推奨 |
| E5-Mistral (Microsoft 2024) | OSS・4096次元・Mistral 7B ベース |
| Snowflake Arctic Embed L (2024) | OSS・1024次元・データクラウド系 |
| Qwen3 Embedding 8B (2024) | OSS・Qwen3 8B ベース |
よくある質問（FAQ）
Q1: Matryoshka Representation Learning とは？ A: Aditya Kusupati ら（Google + UW、NeurIPS 2022）が発表した手法。「1 つの Embedding ベクトルの前半 N 次元だけ使っても性能維持」する性質を持つよう学習。256/512/1024/3072 次元から任意選択可、用途別にメモリ・コスト最適化。
Q2: ada-002 vs 3-small どちらが良い？ A: 3-small が全面的に優位：性能 MTEB +1.3（62.3 vs 61.0）、価格 1/5（$0.02 vs $0.10）、Matryoshka 対応。ada-002 は 2024-04 以降価格据置きで実質非推奨、新規プロジェクトは 3-small または 3-large。
Q3: 3072 次元の保存コストは？ A: 1 ベクトル = 3072 × 4 byte = 12KB、100 万ベクトル = 12GB、10 億ベクトル = 12TB。Pinecone 等の ベクトル DB で月 $1000-10000+ 発生。Matryoshka で 1024 次元化すれば 1/3 コスト、性能 95% 維持で実用最適。
まとめ
- OpenAI 2024年1月発表・Embedding 第3世代
- 3072 次元・MTEB 71.0・Matryoshka 次元削減対応
- $0.13/1M トークン（large）・$0.02/1M（small）
- ada-002 から大幅性能向上 + コスト削減
- 商用 Embedding の事実上標準