AI・機械学習
上級

EvoPrompt(進化的アルゴリズムによるプロンプト最適化)(イーボプロンプト シンカテキ アルゴリズム プロンプト サイテキカ)

Guo et al.(2023)が提案した、遺伝的アルゴリズム・差分進化などの進化的アルゴリズムを LLM プロンプト最適化に応用した手法。プロンプト「個体」を選択・交叉・突然変異させて高品質な指示文を探索する。

0 回閲覧
0 いいね
2026/6/7 更新
関連タグ
EvoPrompt
進化的アルゴリズム
遺伝的アルゴリズム
プロンプト最適化
差分進化

EvoPrompt(進化的アルゴリズムによるプロンプト最適化)

概要

EvoPrompt は Qingyan Guo、Rui Wang らが 2023 年に発表した自動プロンプト最適化手法だ(論文: "Connecting Large Language Models with Evolutionary Algorithms Yields Powerful Prompt Optimizers")。生物の進化をモデルにした**遺伝的アルゴリズム(GA)と差分進化(DE)**を LLM のプロンプト探索に組み込み、自然言語の「個体群」を進化させて最適なプロンプトを発見する。

進化的アルゴリズムとの対応

進化的概念EvoPrompt での対応
個体プロンプト文字列 1 件
個体群プロンプト候補の集合(例: 10 件)
適合度開発セットでの精度
選択高スコア個体をランダム or トーナメント選択
交叉LLM が 2 つのプロンプトの良い部分を組み合わせる
突然変異LLM が 1 つのプロンプトを軽微に書き換える
世代交代新候補が親世代と競い、上位 N 件を次世代へ

2 つのアルゴリズムモード

GA(遺伝的アルゴリズム)モード

  1. 初期個体群 P₀ を生成(人手 or LLM 自動生成)
  2. 親 2 個体を選択(トーナメント選択)
  3. LLM に「以下 2 つのプロンプトの良い部分を組み合わせて1つ新しいプロンプトを作って」
  4. 新個体を評価(dev set accuracy)
  5. 個体群を更新(ルーレット選択 or 上位保持)

DE(差分進化)モード

  1. 3 個体 p_a, p_b, p_c を選択
  2. 変異個体: LLM に「p_a をベースに、p_b と p_c の違いを参考にして改善して」
  3. 交叉: 確率的に現在個体 p_i と変異個体を選択
  4. 新個体 > 現個体なら入れ替え

性能比較(論文実験・9 タスク平均)

手法BBH 平均ETHOS(感情)SST-5(5 class)
Zero-shot CoT55.0%72.1%49.8%
APE58.0%74.2%51.0%
OPRO58.9%76.0%51.4%
EvoPrompt (DE)61.4%78.3%54.1%

大規模比較実験で APE・OPRO を上回り、9 タスク中 7 タスクで最高スコアを記録した(2023 年時点)。

設定ガイドライン

パラメータ推奨値備考
個体群サイズ10〜20大きいほど多様、コスト増
世代数10〜30予算上限で設定
Dev set サイズ50〜200 件小さいほど高速だが評価ノイズ大
LLM エンジンGPT-4o / Gemini 1.5強いほど交叉・突然変異の質が高い

OPRO・APE・ProTeGi との比較

手法探索戦略多様性維持コスト特徴
APE一括生成低低シンプル・高速
OPRO軌跡追跡中中汎用最適化
ProTeGiビームサーチ中中失敗事例分析
EvoPrompt進化的探索高高最高精度
TextGradバックプロパゲーション低高複合パイプライン

まとめ

EvoPrompt は進化的アルゴリズムの「個体群多様性維持」という強みを LLM プロンプト探索に持ち込み、2023 年発表時点で最高性能を達成した手法だ。計算コストは高いが、タスクへの初期投資として許容できる場合、費用対効果が高い。2025 年現在は TextGrad・DSPy と組み合わせたハイブリッド最適化パイプラインへの発展研究が進んでいる。

この記事について
カテゴリーAI・機械学習
難易度上級
作成日2026/6/7