2990件の用語
HumanEvalを超える実践的なコード生成評価ベンチマーク。139のPythonライブラリを活用した1,140問で構成され、関数呼び出し・API活用・複合タスクの能力を評価する。
LLM のコード生成能力を実用的なプログラミングタスクで評価するベンチマーク。HumanEval の限界を超え、複数ライブラリの組合せ・API 呼出し・データ処理など現実的な開発シナリオを網羅する。
2024 年に発表された LLM コード生成能力評価ベンチマーク。HumanEval の 164 問に対し 1,140 問と約 7 倍の問題数を持ち、実際のライブラリ(NumPy/Pandas/scikit-learn 等)を使ったより現実的なプログラミングタスクで LLM の真の実力を測定する。
大規模データ集合。Apache Hadoop 3.4・Apache Spark 3.5・Apache Kafka・Apache Flink・Databricks・Snowflake・Google BigQuery・AWS Redshiftが代表基盤で、ペタバイト規模・リアルタイムストリーム処理で2026年も拡大。
Google Researchが2020年に発表した、ローカルアテンション・グローバルアテンション・ランダムアテンションの3種を組み合わせたスパースアテンション機構。計算量をO(n)に削減しつつ、グラフ理論に基づき全トークン間の情報到達性を理論的に保証する。
Googleが2020年に提案した長文処理向けスパースアテンション機構。ランダムアテンション・局所ウィンドウアテンション・グローバルアテンションの3要素を組み合わせ、理論的にはO(n)計算量で完全なトランスフォーマーの表現力を保持することを証明した手法。
Google主導で作成された204タスク・超大規模LLM評価ベンチマーク。論理推論・言語・数学・常識など多様な能力を包括的に測定する。
BitsAndBytes(bitsandbytes)とは、Tim Dettmersが開発したPyTorch用の軽量量子化ライブラリで、LLMの8ビット/4ビット量子化推論およびQLoRAファインチューニングを実現する。HuggingFace Transformersにネイティブ統合されており、数行のコード変更でモデルの量子化ロードが可能である。
2024年成熟BitsAndBytes・Industry-leading 8-bit LLM.int8 mixed precision + Industry-leading outlier-aware quantization + Industry-leading PyTorch native + Industry-leading Tim Dettmers BitsAndBytes mixed-precision quantization 2024。
2022年Tim Dettmers公開BitsAndBytes(bnb)量子化ライブラリ。Pro 業界Pro Mainstream On-the-fly LLM量子化+QLoRA基盤先駆 + Pro 米国UW Tim Dettmers + Pro 2022-08 LLM.int8()/2023-05 NF4 + Pro 8bit/4bit NF4/FP4 + Pro huggingface transformers/PEFT統合 + 累計2022-2026年4年Heritage継承代表機。
Microsoftが提案した1bit級LLMアーキテクチャ。重みを{-1,0,+1}の三値(1.58bit)で表現するBitNet b1.58が代表で、行列乗算を加減算に置換し大幅な省メモリ・省電力を狙う次世代量子化。
MicrosoftがArXivで2023年10月発表した1-bit Large Language Model。モデルの重みをすべて{-1, 0, +1}の3値(実質1.58bit)に限定し、行列乗算を加算のみで実行可能にする革新的な量子化訓練アーキテクチャ。
Microsoftが2024年に発表した1.58ビット量子化LLMアーキテクチャ。全重みを{-1, 0, +1}の3値で表現し、FP16比でVRAM 1/16・推論コスト大幅削減を実現する。
Microsoft 2024年 1.58-bit 量子化 LLM 学習手法。{-1, 0, +1} 三値重みで FP16 比 16倍メモリ削減・推論コスト 70% 減
Shanghai AI Labが2023-2024年に発表した会話型動画理解モデル。MVBenchベンチマークを提唱し、高品質なInstructデータと時空間モデリングで動画Q&A精度を向上させた。
画像と動画を統合的に理解できるマルチモーダルLLM。視覚トークンを言語空間に整列させることで、単一モデルで画像・動画双方の質問応答を実現する。
AlibabaグループのDamo Academyが開発したLLaMA3ベースの動画理解LLM。長時間動画・OCR・音声を含む総合的なマルチモーダル理解を実現。SigLIP視覚エンコーダを採用。
Alibaba DAMO Academyが開発した動画特化のLarge Language Model第3世代。フレーム適応型サンプリングとSpatial-Temporal Poolingにより長尺動画の効率的な理解を実現し、主要オープンモデルと競合する性能を持つ。
2023年Vector Institute Toronto + University of Toronto共同発表Hidet paper・Industry-emerging Python DSL Tensor Compiler + Industry-leading task-mapping programming model + Industry-leading PyTorch + Hugging Face integration + Industry-leading Vector Institute Toronto + University of Toronto academic AI research integrated foundation。
生数科技(Shengshu Technology)が開発した4K解像度・最大16秒対応の高品質テキスト動画生成モデル。参照画像入力・カメラ軌跡制御・キャラクター一貫性で商用グレードの品質を実現した中国発動画AIの代表格。