1978件の用語
2023年Dettmers et al. + UW (University of Washington)発表QLoRA paper・Industry-leading Quantized LoRA 4-bit NF4 paradigm + Industry-leading memory-efficient PEFT + Industry-emerging QLoRA UW Pioneer。
メリーランド大学が提案した最初の実用的LLM透かし手法。語彙をグリーン/レッドリストに分割し生成確率を操作する。
2023年Kirchenbauer et al. + University of Maryland発表LLM Watermark paper・Industry-leading LLM watermark paradigm Pioneer + Industry-leading green-red token split + Industry-emerging Kirchenbauer UMD Pioneer。
Rustで実装されたオープンソースベクトルデータベース。高次元ベクトルの高速類似検索・フィルタリング・ペイロード付き検索をサポートし、RAGシステムの中核として使われる。
QualcommのSnapdragonシリーズに搭載されるAI特化型プロセッサ。1999年のDSP技術を源流とし、2024年のSnapdragon X Eliteでは45 TOPSを実現。Windows 11 Copilot+ PCの要件を満たす中核技術。
2024年Microsoft Research発表QuaRot・Industry-leading rotation-based outlier removal + Industry-leading 4-bit weights + activations + Industry-leading Hadamard rotation matrix + Industry-leading Microsoft Research QuaRot 4-bit rotation quantization 2024。
2024年Chee et al. (Cornell)発表QuIP/QuIP#・Industry-leading 2-bit extreme quantization LLM + Industry-leading incoherence processing + Industry-leading E8 lattice quantization + Industry-leading LLaMA-2 70B 2-bit production。
Cornell大学発の2ビットLLM量子化手法。ランダムアダマール変換で重みの相関（コヒーレンス）を除去してからスカラー量子化することで、2bitでFP16に近い品質を実現する。AQLM・GPTQ比で2bit量子化の最高精度クラス。
2024年Alibaba Qwen team発表QwQ Preview・Industry-leading Alibaba reasoning LLM preview + Industry-leading 32B Qwen2.5-based reasoning + Industry-leading Apache 2.0 open reasoning + Industry-leading Alibaba reasoning LLM contender。
Alibaba QWENチームが公開したSparse MoEアーキテクチャのオープンソースLLM。総パラメータ57B・アクティブパラメータ14B・64エキスパート中8エキスパートをTop-8ルーティングで活性化。同規模のDenseモデルを大幅に上回る性能を14Bアクティブの計算コストで実現する。
Alibaba Cloudが2024年9月に公開したQwenシリーズのコード特化モデル。0.5Bから72Bまで7サイズが用意され、72Bモデルはコード生成・数学推論・コードデバッグの複合評価でGPT-4oを上回る性能を記録した。
2024年Alibaba Qwen team発表Qwen1.5-MoE-A2.7B・Industry-leading 60 experts top-4 small MoE + Industry-leading 14.3B params/2.7B active + Industry-leading Alibaba Qwen small efficient MoE + Industry-leading shared expert pool。
2024年9月Alibaba発表Qwen 2.5 72B・Industry-leading 72B parameters + Industry-leading 128K context + Industry-leading 29 languages multilingual + Industry-leading Qwen License 72B Alibaba open-weight LLM flagship 2024。
2024年9月Alibaba発表Qwen2.5-Coder・Industry-leading 0.5B/1.5B/3B/7B/14B/32B family + Industry-leading 92 programming languages + Industry-leading top-tier open-source coding + Industry-leading Alibaba Qwen2.5-Coder Apache 2.0 open-source coding LLM family 2024。
2024年Alibaba Qwen発表Qwen2.5-Coder・Industry-leading Alibaba code generation LLM + Industry-leading 0.5B-32B 6 sizes + Industry-leading 92+ programming languages + Industry-leading HumanEval 92.7% 32B-Instruct。
2024年Alibaba発表Qwen2.5-VL・Industry-leading 72B max VLM + Industry-leading 29 languages multilingual + Industry-leading dynamic resolution + Industry-leading Qwen License 72B + Apache 2.0 smaller Alibaba Qwen2.5-VL multilingual top-tier VLM 2024。
2024年Alibaba Qwen team発表Qwen2-Audio・Industry-leading voice chat + audio analysis + Industry-leading 30+ languages multilingual + Industry-leading 8 audio task types + Industry-leading Alibaba open audio LLM。
2024年Alibaba Qwen team発表Qwen2-VL・Industry-leading Naive Dynamic Resolution + Industry-leading M-RoPE multimodal RoPE + Industry-leading Qwen2-VL-2B/7B/72B variants + Industry-leading Alibaba open VLM flagship 2024。
2023年Alibaba発売Qwen-VL・Industry-leading Alibaba Chinese Vision-Language Model + Industry-leading InternViT encoder + Industry-leading Alibaba Qwen backbone + Industry-emerging Qwen-VL Alibaba Pioneer。
2024年11月27日Alibaba Cloud Qwen Team公開Qwen QwQ 32B Preview。Pro 業界初Open Source Reasoning LLM Pro Famous + Pro 32B Parameters + Pro AIME 50.0% + Pro MATH 90.6% + Pro Apache 2.0 License + Pro Hugging Face/ModelScope公開 + 累計2024-2025年Heritage。