AI・機械学習
上級
EvoPrompt(進化的アルゴリズムによるプロンプト最適化)(イーボプロンプト シンカテキ アルゴリズム プロンプト サイテキカ)
Guo et al.(2023)が提案した、遺伝的アルゴリズム・差分進化などの進化的アルゴリズムを LLM プロンプト最適化に応用した手法。プロンプト「個体」を選択・交叉・突然変異させて高品質な指示文を探索する。
0 回閲覧
0 いいね
2026/6/7 更新
関連タグ
EvoPrompt
進化的アルゴリズム
遺伝的アルゴリズム
プロンプト最適化
差分進化
EvoPrompt(進化的アルゴリズムによるプロンプト最適化)
概要
EvoPrompt は Qingyan Guo、Rui Wang らが 2023 年に発表した自動プロンプト最適化手法だ(論文: "Connecting Large Language Models with Evolutionary Algorithms Yields Powerful Prompt Optimizers")。生物の進化をモデルにした**遺伝的アルゴリズム(GA)と差分進化(DE)**を LLM のプロンプト探索に組み込み、自然言語の「個体群」を進化させて最適なプロンプトを発見する。
進化的アルゴリズムとの対応
| 進化的概念 | EvoPrompt での対応 |
|---|---|
| 個体 | プロンプト文字列 1 件 |
| 個体群 | プロンプト候補の集合(例: 10 件) |
| 適合度 | 開発セットでの精度 |
| 選択 | 高スコア個体をランダム or トーナメント選択 |
| 交叉 | LLM が 2 つのプロンプトの良い部分を組み合わせる |
| 突然変異 | LLM が 1 つのプロンプトを軽微に書き換える |
| 世代交代 | 新候補が親世代と競い、上位 N 件を次世代へ |
2 つのアルゴリズムモード
GA(遺伝的アルゴリズム)モード
- 初期個体群 P₀ を生成(人手 or LLM 自動生成)
- 親 2 個体を選択(トーナメント選択)
- LLM に「以下 2 つのプロンプトの良い部分を組み合わせて1つ新しいプロンプトを作って」
- 新個体を評価(dev set accuracy)
- 個体群を更新(ルーレット選択 or 上位保持)
DE(差分進化)モード
- 3 個体 p_a, p_b, p_c を選択
- 変異個体: LLM に「p_a をベースに、p_b と p_c の違いを参考にして改善して」
- 交叉: 確率的に現在個体 p_i と変異個体を選択
- 新個体 > 現個体なら入れ替え
性能比較(論文実験・9 タスク平均)
| 手法 | BBH 平均 | ETHOS(感情) | SST-5(5 class) |
|---|---|---|---|
| Zero-shot CoT | 55.0% | 72.1% | 49.8% |
| APE | 58.0% | 74.2% | 51.0% |
| OPRO | 58.9% | 76.0% | 51.4% |
| EvoPrompt (DE) | 61.4% | 78.3% | 54.1% |
大規模比較実験で APE・OPRO を上回り、9 タスク中 7 タスクで最高スコアを記録した(2023 年時点)。
設定ガイドライン
| パラメータ | 推奨値 | 備考 |
|---|---|---|
| 個体群サイズ | 10〜20 | 大きいほど多様、コスト増 |
| 世代数 | 10〜30 | 予算上限で設定 |
| Dev set サイズ | 50〜200 件 | 小さいほど高速だが評価ノイズ大 |
| LLM エンジン | GPT-4o / Gemini 1.5 | 強いほど交叉・突然変異の質が高い |
OPRO・APE・ProTeGi との比較
| 手法 | 探索戦略 | 多様性維持 | コスト | 特徴 |
|---|---|---|---|---|
| APE | 一括生成 | 低 | 低 | シンプル・高速 |
| OPRO | 軌跡追跡 | 中 | 中 | 汎用最適化 |
| ProTeGi | ビームサーチ | 中 | 中 | 失敗事例分析 |
| EvoPrompt | 進化的探索 | 高 | 高 | 最高精度 |
| TextGrad | バックプロパゲーション | 低 | 高 | 複合パイプライン |
まとめ
EvoPrompt は進化的アルゴリズムの「個体群多様性維持」という強みを LLM プロンプト探索に持ち込み、2023 年発表時点で最高性能を達成した手法だ。計算コストは高いが、タスクへの初期投資として許容できる場合、費用対効果が高い。2025 年現在は TextGrad・DSPy と組み合わせたハイブリッド最適化パイプラインへの発展研究が進んでいる。