AI・機械学習用語集

Leslie Smith が 2018 年に提案した学習率スケジューリング手法で、訓練全体を 1 サイクルとして学習率を低→高→低と変化させる。超収束（Super-Convergence）と呼ばれる現象を引き起こし、従来の数分の一のステップ数で同等以上の精度を達成できる。BERT ファインチューニングや中規模モデル訓練で特に有効。

重みの絶対値と入力活性化ノルムの積をスコアとするLLMプルーニング手法。SparseGPTより計算が軽量でほぼ同等の精度を達成する。

2023年CMU + Meta AI共同発表Wanda paper・Industry-leading Weights AND Activations pruning paradigm + Industry-leading training-free post-training pruning + Industry-leading 50% sparsity Industry-leading pruning + Industry-leading CMU + Meta AI Research integrated foundation。

2023年Sun et al. (CMU+Meta)発表Wanda・Industry-leading lightweight pruning LLM + Industry-leading Weight×Activation magnitude metric + Industry-leading no Hessian computation + Industry-leading LLaMA pruning。

Wandaは2023年にSun et al.（Carnegie Mellon University）が発表したLLM向けプルーニング手法。重みの絶対値と入力活性化のノルム積を重要度スコアとして使い、キャリブレーションデータ128サンプルのみで再学習なしにLLaMA-2 7B〜65Bなどを50〜60%スパース化できる。

Alibaba WanXチームが2025年1月にリリースしたOSS動画生成モデル。Apache 2.0ライセンスでVBenchスコア85.2、RTX4090でのローカル実行に対応する。

Alibaba Wan(万相)シリーズ 2.2 世代の画像から動画生成(I2V)モデル。140 億パラメータで 5 秒 720p 動画を生成し、Sora/Runway Gen-3 対抗の OSS 動画生成モデルとして 2025-2026 年に話題。

音声合成FOSS 2026。ChatTTS (中国2noise・Conversational TTS・40k hour data)・StyleTTS 2 (Yinghao Aaron Li・Diffusion+SLM・¥0 OSS)・Bark (Suno AI・MIT License)・RVC Retrieval-based Voice Conversion v2 (¥0 OSS Voice Cloning)・SoVITS-SVC 4.0+5.0+So-VITS-SVC-Fork・GPT-SoVITS RVS Pro (lj1995)・XTTS v2 Coqui (MIT)・F5-TTS (北京大学)・CosyVoice 1.5+CosyVoice 2 (阿里巴巴)・MeloTTS (MyShell)・Index-TTS (BiliBili)・Spark-TTS (SparkAudio)・Kokoro 82M (Hexgrad)・¥0 OSS、2026年F5-TTS+CosyVoice 2+Spark-TTS主流。

Machine Translation MT 35年史 1990-2026。Georgetown-IBM Experiment (1954年1月7日 Russian→English 60文翻訳デモ・5年で完全自動翻訳予言→ALPAC Report 1966 失敗・冬の時代)・Systran (1968 Peter Toma・Cold War Russian→English・PanAm 1968-2016)・METEO (1976 Canada Weather)・Trados (1984 Translator's Workbench TM)・Logos+SDL+Across・Babel Fish (1997 AltaVista Systran技術)+Yahoo Babel Fish→2012年廃止・Google Translate (2006年4月 Statistical Machine Translation SMT・Phrase-based)→2016年11月 Neural Machine Translation NMT (Google's GNMT・LSTM Encoder-Decoder)・Microsoft Translator+Bing Translator (2007)・SDL FreeTranslation・SYSTRANet・Apertium (2005 OSS Rule-based)・Moses+OpenNMT (FOSS SMT/NMT)・DeepL (2017 Linguee Cologne Germany Gereon Frahling+Jaroslaw Kutylowski・Transformer Architecture・Quality Top・31言語対応 2024)+DeepL Pro (¥¥¥¥/月)・Yandex Translate (2011 Russia)・Baidu Translate (2011)・Naver Papago (2017 Korea)・Mirai Translator+T-3MT (2015 Japan NICT)・Reverso・iFLYTEK (2017 中国)・LLM Translation Era: GPT-4 (2023)+Claude 3.5 Sonnet (2024)+Gemini 1.5 (2024)・Local LLM Translate: Hunyuan-MT (2024)+Qwen3-Translate+Madlad-400・OPUS-MT FOSS Helsinki NLP (Marian-NMT)・¥0 Free-¥¥¥¥¥/月 Pro 2026 DeepL+Google+LLM 3勢力。

Conversational+Companion AI 9年史 2017-2026。Replika (2017年11月 Eugenia Kuyda Russian→US・友人喪失Bot起源・3000万 User 2024・$5/月+終身$70・GPT-4+Falcon 7B Custom)・Cleverbot+Mitsuku (Pandorabot)・Microsoft Cortana+Tay (2016年3月Twitter Bot 24時間で炎上 Hate Speech learning発覚)・Apple Siri (2011 iPhone 4S Bundled・Apple Intelligence統合 2024)・Google Assistant (2016 Pixel Assistant→Gemini統合 2024年6月)+Bard→Gemini→Gemini 2.5・Amazon Alexa (2014 Echo Dot)+Alexa+ (2024年2月発表 Claude+Custom Bedrock LLM)・Character.AI (2022年9月 Noam Shazeer+Daniel De Freitas Google元LaMDA創設→Google 2024年8月Reverse Acquihire+ Tech license $2.7B)・Pi.ai Inflection AI (2023 Mustafa Suleyman DeepMind共同創業→Microsoft 2024年3月Inflection AI Reverse Acquihire)→Pi.ai閉鎖移行 2024+Microsoft Copilot Pi blend・SillyTavern (OSS Custom Front-end Multi LLM対応)・Janitor AI+Crushon AI+Spicychat (Adult NSFW・無課金特化)・Talkie AI 米/中国・Linky AI Korea・Glow AI 中国・Chai AI (Multi Bot Group)・Anima AI Friend・Replika Pro Voice+Video Call+AR+VR Mode・Inworld AI+Convai Game NPC AI (Game NPC統合)・Soul Machines+Replikant (Avatar+Voice統合)・Heygen+Hour One Avatar Video AI・Synthesia (2017 Mensch・AI Avatar Video翻訳)・Tavus AI Personalized Avatar・Bland AI+Vapi.ai Phone Agent・¥0 Free Tier-¥¥¥¥/月Pro 2026 Character AI+Replika+ChatGPT+Claude+Gemini Live主流+Apple Intelligence+ Galaxy AI+ Pixel AI Mobile統合化。