1978件の用語
Local LLM GUI App。Jan(OSS・Mac/Win/Linux・Nitro Engine・OpenAI互換API)・LM Studio(Mac/Win/Linux・MLX engine 2024年)・Msty($0 Solo・$8/mo Pro・Parallel chat)・Open WebUI(Docker・Ollama backend GUI)・AnythingLLM($0 Desktop・RAG workflow)・Chatbox(multi-provider)・LibreChat(self-host)・Enchanted(Mac macOS native)・Ollama GUI・BoltAI($29 one-time)・2026年 Mac M4 Max + LM Studio MLX で 70B Q4実用化、プライバシー重視層急拡大。
AI21 Labsが2024年3月にリリースしたTransformer+Mambaハイブリッドアーキテクチャ採用のMoEモデル。256Kコンテキストと高スループット推論を特徴とし、SSMとAttentionを組み合わせた革新的設計を持つ。
2024年3月AI21 Labs発表Jamba・Industry-leading Mamba + Transformer hybrid + MoE + Industry-leading 52B total + 12B active + Industry-leading 256K context + Industry-leading AI21 Labs Jamba Apache 2.0 hybrid Mamba-Transformer MoE 2024。
AI21 Labsが2025年に公開したSSM-Transformer-MoEハイブリッドLLM。Jamba 1.5 Largeは総パラメータ398B・アクティブ94B・コンテキスト256Kトークンを実現。Mambaアーキテクチャと注意機構を交互に配置した独自ハイブリッド設計で長コンテキスト処理効率に優れる。
AI21 Labsが2024年発表したMamba SSMとTransformer AttentionをMixture-of-Experts（MoE）と組み合わせたハイブリッドLLM。52B総パラメータ・12Bアクティブで256Kコンテキスト長を実現した商用オープン重み公開モデル。
AI21 Labs製のハイブリッドSSM-TransformerモデルJambaの第2世代。MoEとMamba-2を組み合わせ、256KトークンコンテキストとTransformer比5倍のスループットを実現。2025年7月公開の52Bアクティブ/398Bトータルパラメータモデル。
2018年Anil et al. + Google発表Shampoo paper・Industry-leading Second-order Preconditioned Stochastic Tensor Optimization paradigm + Industry-leading block diagonal second-order + Industry-leading Google internal LLM adoption。
Jupyter Notebookは、人工知能・機械学習分野における重要な概念・技術です。
AppleとNVIDIAが2024年に共同開発したGUI操作特化マルチモーダルエージェント。スクリーンショットのみでUI要素を認識・操作し、ScreenSpotベンチマークで75%以上の精度を達成。
2017年Ramachandran et al. + Google発表SiLU/Swish paper・Industry-leading Sigmoid Linear Unit + Swish paradigm + Industry-leading Llama + Mistral + Qwen modern LLM dominant + Industry-leading 7年heritage modern LLM activation。
Claude Extended Thinking予算戦略。budget_tokens設定: 1024(quick・simple math)・4096(default・standard reasoning)・16384(complex math・science PhD)・32768(extreme・research grade)・Pricing: thinking tokens output同価($75/Mtok Opus・$15 Sonnet)・1 query 8k thinking ≈ $0.60・100 query/day = $60/月・Cost管理: Claude Sonnet 4.6 thinking推奨(Opus比 -80% cost)・Caching併用 -90%・Use case判断: Math/Science yes・Coding subtle改善・Q&A unnecessary多・Extended Thinking on/off toggle per request・2026年 reasoning model時代必修、AI cost engineering重要。
2024年Google DeepMind発表SynthID-Text・Industry-leading tournament sampling watermark + Industry-leading production-grade LLM watermark + Industry-leading Gemini foundation method + Industry-leading Nature 2024 publication。
SpaceXの教育プログラムから生まれた子ども向けAI学習プラットフォームで、ゲーム型問題解決とLLMを組み合わせた適応学習で数学・論理思考力を育む。
Synthetic Data手法。Self-Instruct (Stanford)・Evol-Instruct (WizardLM)・Self-Reward (Meta)・RLAIF Constitutional AI・LLM Distillation (Teacher→Student)・Phi Series Microsoft (Synthetic Pretraining)・Llama 3.3+Synthetic・Tülu 3 SFT+DPO・OpenWebMath・FineMath・Cosmopedia (HuggingFace 25B token)・Genstruct 7B・MAGPIE (Self-Synthesize)・WildChat・¥0 OSS、2026年Synthetic主流Pretraining。
2024年10月OpenAI発表SimpleQA・Industry-leading factuality benchmark + Industry-leading 4326 short-form QA + Industry-leading o1-preview 47% accuracy + Industry-leading OpenAI SimpleQA factuality evaluation benchmark 2024。
2024年5月Princeton NLP発表SimPO・Industry-leading simple preference optimization + Industry-leading length-normalized reward + Industry-leading reference-free + Industry-leading Princeton NLP Meng+Xia+Chen SimPO MIT simple length-normalized preference optimization method 2024。
長さ正規化とターゲットマージンを導入したDPO改善手法。参照モデル不要・応答長による性能バイアスを解消・シンプルな実装が特徴。Princeton大学が2024年に提案。AlpacaEval2・MT-BenchでDPO/KTO/IPO/ORPOを上回る性能を報告。
Meng ら Princeton 2024年 LLM alignment 手法。reference model 完全不要・length-normalized reward で計算コスト最小・性能最高
2024年OpenAI発表SWE-bench Verified・Industry-leading SWE-bench human-verified subset + Industry-leading 500 GitHub issue tasks + Industry-leading real-world coding benchmark + Industry-leading agent benchmark standard 2024。
2020年Shazeer + Google発表SwiGLU paper・Industry-leading Swish-gated GLU paradigm + Industry-leading Llama + Mistral + Qwen + PaLM dominant + Industry-leading 4年heritage modern LLM gated activation。