AI・機械学習用語集

LLMの活性化空間から概念・感情・認知状態に対応する線形方向を抽出し、その方向ベクトルでモデルを制御するフレームワーク。Zou et al. (2023) が体系化し、llama.cppのControl Vector機能として実装された。

2024年Q2 Rebellions (韓国Seongnam・2020年Park Sungyun (元IBM Research / Intel Habana Labs) 創業・累計funding $400M+・Saudi Aramco Energy Ventures + Samsung投資・韓国Hyperscale AI Chip startup台頭最右翼) 発表のREBEL・1024 TOPS INT8 (Hailo-10H 40 TOPS の 25倍) AI推論Chip・Samsung Foundry 4nm process + Multi-Die CoWoS package + HBM3e 144GB onboard + 200W TDP + PCIe Gen 5 x16・$5,000-$8,000・NVIDIA H100直接競合のEnterprise Server-grade AI Chip・Korea Ministry of Science支援 + Samsung Foundry先進製造のNational AI Chip championship。

MetaとCMUが2023年に発表したSFT研究。1,000件の高品質サンプルのみで強力な指示追従能力を獲得でき、アライメントには「データ量より品質」が本質であることを示した論文。

Limitless社（旧Rewind AI）が2024年に発売したAIペンダント型ウェアラブル。$99で会議・会話を記録しパーソナルAIの記憶として活用する。Mac/iOS連携が特徴。

2018年4月17日Kaleido公開Remove.bg。Pro 業界Pro Mainstream Web Background Removal出発点 + Pro Benjamin Groessing Pro CEO主導 + Pro オーストリアGraz + Pro 5億+ Monthly API Calls + Pro Free 50/月 + Pro $0.20-$0.99 per Image + 2024-Pro Smart Cutout強化 + 累計2018-2025年7年Heritage。

量子コンピューターの量子力学的性質を活用して、古典コンピューターでは困難な問題を効率的に解決する計算手法。量子重ね合わせと量子もつれを利用。

AIモデルの重みを低ビット精度に変換してメモリ使用量と計算量を削減する技術

LLM精度低減高速化技術。FP32→FP16→FP8→FP4→INT4→INT2段階、GPTQ・AWQ・GGUF Q4_K_M/Q5_K_M/Q8_0・bitsandbytes・SmoothQuant・QLoRA・Marlin kernel・TorchAO・NVIDIA FP4 PTQが2026年代表、Llama 4 70B INT4で24GB VRAM稼働可能。

推論時の量子化による精度劣化を最小化するため、訓練段階から量子化ノイズをシミュレートして重みを最適化する手法。GPTQ/AWQなどのPost-Training Quantization（PTQ）の上位互換として位置づけられる。

量子機械学習（Quantum Machine Learning, QML）は、量子コンピューティングの原理を機械学習アルゴリズムに適用する最先端技術です。従来のコンピュータでは処理が困難な複雑な問題を、量子の重ね合わせやもつれといった性質を活用して高速に解決することを目指しています。

量子コンピュータが古典最速スパコンを特定タスクで上回る実証。Google Sycamore 2019年初実証 200秒 vs IBM Summit 1万年と発表、現在は1,386qubit Atom Computingが新基準。

Reranking Model。Cohere Rerank 3.5 (¥¥/1M tok)・Jina Reranker v2-multilingual (Open OSS)・BAAI bge-reranker-v2-m3・mxbai-rerank-large-v2 1.5B・Voyage rerank-2.5・ColBERT v2 Late Interaction (Stanford)・PylateX2・LongRAG Re-ranker・Reciprocal Rank Fusion RRF (Hybrid)・MTEB Rerank Benchmark・MS MARCO・¥0 OSS-API、2026年ColBERT v2+RRF主流化。

検索結果再ランキングモデル。Cohere Rerank 3.5・BAAI/bge-reranker-v2-m3・Jina Reranker v2 Multilingual・Mixedbread mxbai-rerank-large-v2・Voyage rerank-2・Qwen3-Reranker-8B・RankGPT・ColBERT v2・ELEVATER・CrossEncoder(sentence-transformers)・2026年RAG精度向上に必須、HNSW top-100→top-10 rerank定番。

AI エージェントが報酬関数の抜け穴を悪用し、設計者の意図とは異なる方法で高い報酬を獲得する現象。強化学習や RLHF における根本的な課題であり、報酬関数と真の目標のずれ（報酬ミスアラインメント）が原因で生じる。

LLMを使って自然言語前提をFOL（一階論理）形式に変換し、Neurosymbolic推論エンジンで結論を導くフレームワーク。LINC = Logical Inference via Neurosymbolic Computation。

複数GPUをリング状に接続し、Key-Valueをブロック単位で隣接GPUに伝達しながら注意計算を分散する手法。100万トークン超の長文脈LLM学習を可能にする2023年UC Berkeleyの提案。

複数GPU間でKV（Key-Value）ブロックをリング状に巡回させながらAttention計算を分散処理する手法。単一GPUのメモリ制限を超えた数百万トークン規模のコンテキストを、通信と計算のオーバーラップにより効率的に処理する。

2024年成熟Ring Attention・Industry-leading block-wise attention parallelism + Industry-leading 10M+ tokens long context + Industry-leading near-infinite context theoretical + Industry-leading UC Berkeley Liu+Zaharia Ring Attention long-context attention 2024。

2023年UC Berkeley + Google Research共同発表Ring Attention paper・Industry-leading distributed long-context attention paradigm + Industry-leading Ring-based communication パターン + Industry-leading near-infinite context length scaling + Industry-leading Liu et al. UC Berkeley + Hao Liu PhD work + Industry-leading distributed attention parallelism paradigm Pioneer。

複数GPUでシーケンスを分割しリング状の通信パターンでAttentionを計算する分散手法。理論上コンテキスト長を無制限にスケールでき、100万トークン超の処理を実現するコア技術の一つ。