1978件の用語
2024年VAST AI公開Tripo 2.0。Pro 業界Pro Mainstream Text-to-3D高品質特化 + Pro 中国Beijing VAST AI + Pro 30秒生成 + Pro PBR Texture自動 + Pro Tripo Geometry + Pro オープンソースモデル + 累計2023-2026年3年Heritage継承代表機。
2024年AllenAI (Allen Institute for AI・Industry-leading Open-source AI research lab) 発表Dolma・Industry-emerging Open Training Dataset for OLMo paradigm + Industry-leading 3T tokens v1 + 5T+ tokens v2 + Industry-leading AllenAI Open-source AI research foundation + Industry-leading academic AI research transparency。
Allen AI(Ai2)が開発・公開した完全オープンな事前学習データセット。3兆トークンを収録し、OLMoシリーズLLMの訓練データとして使用。データ収集・フィルタリング・重複除去の全工程とコードをApache 2.0ライセンスで公開する透明性が特徴。
2023年Microsoft Research + Tsinghua University共同発表Train Long Test Short paper・Industry-emerging length extrapolation training paradigm + Industry-leading train short context + test long context length extrapolation training-time技法 + Industry-leading Microsoft + Tsinghua Industry-leading integrated research foundation。
2023年Nir Gazit (元Google Cloud TPM) 創業のTraceloop・OSS Project OpenLLMetryでLLM Tracing OpenTelemetry標準化を推進。Y Combinator S22採択・GitHub OpenLLMetry Star 4k+ (2024年Q4)・Apache 2.0 License・Python/JS/Go/Ruby SDK提供・OpenAI/Anthropic/Cohere/Mistral/Pinecone/Chroma/LangChain/LlamaIndex 30+ integration・Datadog/Honeycomb/Grafana/New Relic 既存OTel backendと完全互換・LLM specific semantic convention草案 (OTel SIG-LLM) のContributor主軸。
LLM Training Framework。PyTorch 2.6+ (torch.compile・FSDP2)・JAX 0.4 (XLA・TPU Native・Pallas)・Flax NNX (JAX高レベル)・Megatron-LM (NVIDIA Tensor+Pipeline Parallel)・DeepSpeed 0.16 (Microsoft・ZeRO-3)・Megatron-DeepSpeed・FSDP2 (Fully Sharded Data Parallel)・FairScale・Liger Kernel (Triton Custom)・torchtitan (PyTorch native LLM)・¥0 OSS、2026年torchtitan注目。
LLM事前学習時のドメイン別データ混合比を、小規模代理モデルの損失を用いて自動最適化するアルゴリズム。2023年Googleが提案。
ミニマックス最適化でLLM事前学習のドメイン別データ配合比率を自動決定するアルゴリズム。小規模プロキシモデルで効率的に最適混合を発見する。
Natural Language Processingは、人工知能・機械学習分野における重要な概念・技術です。
2015年Hinton + Vinyals + Dean発表Knowledge Distillation paper・Industry-leading Teacher-Student Knowledge Distillation paradigm Pioneer + Industry-leading soft target + temperature distillation + Industry-leading neural network compression Pioneer + Industry-leading Hinton 2018年Turing Award credibility・Industry-leading 9年heritage + Industry-leading neural network distillation foundational。
LLMの長コンテキスト能力を測るベンチマーク手法。長文(hay = 干し草の山)の中に特定情報(needle = 針)を埋め込み、モデルがそれを正確に取り出せるか検証する。コンテキスト長と位置ごとの精度分布を可視化できる。
NVIDIAが開発したLLMアプリケーション向け対話フロー制御・安全フィルタリングのオープンソースフレームワーク。
2024年成熟Niji Journey v6・Industry-leading anime+illustration specialized + Industry-leading Midjourney variant + Industry-leading Spellbrush collaboration + Industry-leading Midjourney + Spellbrush Niji Journey anime-focused image generation 2024。
Neural Engineは、最新のCPU/GPU技術における重要な要素です。
Neural Compute Stick(ニューラル・コンピュート・スティック)は、USBポートに接続して使用する小型のAI推論アクセラレータです。エッジデバイスで深層学習モデルを高速実行できます。
AIを活用したテクスチャ圧縮技術。VRAM使用量を最大4分の1に削減
Neural Network Architectureは、人工知能・機械学習分野における重要な概念・技術です。
ニューラルネットワークを活用したレンダリング技術
新興AI Chip Architecture。Neuromorphic: Intel Loihi 2 (Hala Point 1.15B Neuron 2024)・IBM NorthPole 22B Synapse・SpiNNaker 2 (Dresden)・BrainChip Akida 2.0 Edge AI・Innatera 1024 Neuron・Photonic: Lightmatter Envise/Passage・Lightelligence・Q.ANT Photonic Native Processing Unit (Stuttgart)・Wafer-Scale: Cerebras WSE-3 (90万Core)・Tesla Dojo D2 (2025-Q4)・¥¥¥¥¥¥¥、2026年Photonic商用化期。
第3世代ニューロモーフィックプロセッサは、人間の脳の神経回路を模倣したアーキテクチャを持つ革新的なプロセッサです。従来のコンピュータとは異なり、ニューロンとシナプスの相互作用をハードウェアレベルで再現することで、人間の脳が持つような並列処理能力と低消費電力性を実現します。スパイキングニューラルネットワーク(SNN)をハードウェアレベルで実装し、超低消費電力でリアルタイム学習を実現します。このプロセ