AI・機械学習用語集

言語モデルが次の単語をどの程度正確に予測できるかを測る指標。クロスエントロピー損失の指数関数として計算され、値が低いほどモデルの予測精度が高いことを示す。GPT-4クラスのモデルでは英語テキストに対して8-12程度。

LLMの言語モデリング能力を数値化する基本的な評価指標。モデルが次のトークンをどれだけ正確に予測できるかを表し、値が低いほど予測精度が高い（＝モデルが言語をよく理解している）。学習の進捗監視やモデル比較に広く使用される。

AI Search Engine。Perplexity AI(Pro $20/mo・GPT-4o/Claude Sonnet 4.6/Sonar・Source Citation)・Perplexity Spaces(Workflow)・Perplexity Comet Browser(2024年12月)・OpenAI SearchGPT(ChatGPT統合・$20/mo Plus・$200/mo Pro)・Google Gemini Search(2.5 Pro・Deep Research)・xAI Grok 3 Search(Premium $30/mo)・Anthropic Claude Search(Web Search Tool API・2025年)・You.com・Phind(Code-focused)・SciSpace(科学論文)・2026年 Perplexity + Claude Code research workflow定番、ChatGPT Search拡大。

従来の検索エンジンと対話型AIを融合させた「AIネイティブ・サーチエンジン」。Web上の最新情報をリアルタイムに取得し、回答の根拠となる引用元（ソース）を明示しながら自然言語で回答を生成する次世代の検索ツール。

リアルタイムのWeb検索と大規模言語モデル（LLM）を融合させ、情報の要約と出典の明示を行う「回答エンジン」。従来の検索エンジンとは異なり、ユーザーの問いに対して直接的な回答を生成する。

2024年Perplexity AI公開Comet AI Browser。Pro 業界Pro Mainstream AI Search Browser先駆 + Pro 米国SF Perplexity + Pro 2022-Perplexity設立 + Pro Chromium基盤 + Pro AI Search統合 + Pro Mac/Windows対応 + Pro Free Tier + 累計2022-2026年4年Heritage継承代表機。

PerplexityのAI検索Pro有料プラン（月$20）。GPT-4o/Claude 3.7 Sonnet/Gemini 1.5 Pro等マルチLLM選択・1日600回以上の高度検索・Deep Research（詳細調査レポート自動生成）・PDFアップロード・APIアクセス付き。2025年のプロフェッショナル向けAI検索ツール。

Mazeika et al.（2024、UIUC）が提案したLLMのjailbreak攻撃・防御を標準化評価するベンチマーク。GCG・PAIR・TAP・AutoDAN等18種類の攻撃手法と9種類の防御手法を統一フレームワークで評価し、攻撃成功率（ASR）を標準指標として提供する。

機械学習モデルが特定の集団・属性に対して不公平な判定をする傾向。訓練データの偏り・アルゴリズム設計・社会的偏見が原因で、AI 倫理の中核問題となっている。

Stanfordの研究チームが2023年に提案した、長距離畳み込みフィルタとゲーティングを組み合わせたAttention代替メカニズム。FFT（高速フーリエ変換）を活用してO(n log n)のサブクアドラティック計算量を実現し、DNA配列解析など超長系列タスクで特に高い性能を示す。

2023年Stanford Hazy Research (Christopher Ré + Michael Poli + Stefano Massaroli共同) 発表Hyena Operator paper・Industry-emerging Sub-quadratic convolution attention architecture・Industry-emerging Transformer alternative + Industry-leading O(L log L) sub-quadratic context complexity + Industry-emerging implicit convolution attention paradigm + Industry-leading Stanford academic research foundation・Industry-leading Hyena Hierarchical convolution attention paradigm Pioneer。

生命科学と情報科学の融合領域。DNA / RNA / タンパク質配列解析、ゲノム比較、創薬、医療AI 等で使われる。NVIDIA Parabricks / AlphaFold 3 が業界標準ツール。

Microsoftが2022年に発表した生物医学テキスト特化の生成言語モデル。PubMed文献1500万件で学習し、生物医学的関係抽出・質問応答・文献要約に特化。

NVIDIA NeMoフレームワーク上で構築された生命科学・医療特化型BERTモデル。PubMedの大量バイオメディカル文書で事前学習し、医薬品名・遺伝子名・疾患の固有表現抽出（NER）で高精度を発揮する。

Pydanticチームが開発した型安全なAIエージェントフレームワーク。Pythonの型システムとPydanticバリデーションを活かし、構造化出力・依存性注入・FastAPIライクなDIコンテナでプロダクション品質のエージェントを構築できる。

Hypothetical Document Embeddings。クエリそのものでなく、LLMに仮の回答文書を生成させ、その埋め込みで検索するRAG手法。質問と文書の表現ギャップを埋め検索精度を高める。

LLMにクエリから仮想的な回答文書を生成させ、その文書の埋め込みベクトルで検索することで、クエリと文書の意味的ギャップを埋めるRAG検索手法。2022年にGao et al.が提案した。

>-

PyTorch公式の完全シャード化データ並列（Fully Sharded Data Parallel）フレームワーク。DeepSpeed ZeROと同様にパラメータ・勾配・オプティマイザ状態をGPU間で分割し、大規模モデルの学習を効率化する。PyTorch 2.0以降で安定版として提供される。

PyTorchネイティブの完全シャードデータ並列学習ライブラリ。モデルパラメータ・勾配・オプティマイザ状態をGPU間で完全分散し、DeepSpeed ZeRO Stage 3相当のメモリ削減を実現。LLaMA/Mistral系モデルの学習で広く採用されている。