LLMアクティベーション・ステアリング（エルエルエムアクティベーションステアリング）
LLMの中間層における活性化ベクトルを直接操作することで、重みを変更せずにモデルの出力傾向を制御する技術群の総称。Representation Engineeringとも呼ばれる。
LLMアクティベーション・ステアリングとは、大規模言語モデル（LLM）の推論時に中間層の活性化ベクトル（activation vector）を直接加算・減算・クランプすることで、モデルの出力を制御する技術である。ファインチューニングやプロンプトエンジニアリングとは異なり、モデルの重みを一切変更せずにリアルタイムで行動を誘導できる点が最大の特徴である。
概要と背景
アクティベーション・ステアリングは、2023年頃からMechanistic Interpretability（機械的解釈可能性）研究の実用的応用として急速に発展した分野である。従来のLLM制御手法であるRLHF（人間フィードバックからの強化学習）やプロンプトエンジニアリングが「外側から」モデルを制御するのに対し、本手法はモデルの「内部表現空間」に直接介入する。
Li et al.（2024）の"Representation Engineering"論文では、LLMの中間層に「概念方向ベクトル」が存在することを実証した。例えば「正直さ」「有害性」「感情」といった高次概念が、活性化空間内の特定の方向として線形にエンコードされている。この方向ベクトルを特定し、推論時に加算すれば概念を強化、減算すれば抑制できる。
Anthropicは2024年にSparse Autoencoder（SAE）を用いた大規模な特徴量分析を公開し、Claude 3 Sonnetの中間層から400万以上の解釈可能な特徴量を抽出した（Templeton et al., 2024）。この研究は「Golden Gate Claude」実験として広く知られ、特定の特徴量を増幅するとモデルがゴールデンゲートブリッジに関する回答ばかり生成するようになることを示した。
主な手法の分類
アクティベーション・ステアリングには複数のアプローチが存在し、それぞれ精度・コスト・スケーラビリティが異なる。
| 手法 | 概要 | 精度 | 計算コスト | 代表論文 |
|---|---|---|---|---|
| CAA（Contrastive Activation Addition） | 対照プロンプトペアの活性化差分を加算 | 中〜高 | 低（推論時加算のみ） | Rimsky et al., 2024 |
| SAE（Sparse Autoencoder） | 中間層を疎表現に分解し個別特徴量を操作 | 高 | 高（事前学習必要） | Cunningham et al., 2023 |
| リニアプローブ | 線形分類器で概念を検出 | 中 | 低 | Alain & Bengio, 2017 |
| ITI（Inference-Time Intervention） | 真偽判定の方向ベクトルで幻覚を抑制 | 中〜高 | 低 | Li et al., 2023 |
| ActAdd（Activation Addition） | 単純なベクトル加算でスタイル制御 | 低〜中 | 極低 | Turner et al., 2023 |
ファインチューニングとの違い
アクティベーション・ステアリングとファインチューニング系手法の根本的な違いは、重みの変更を伴うか否かにある。
- ファインチューニング（RLHF/DPO/LoRA）: 重みを更新するため永続的な変化。計算コスト大。ロールバックにはチェックポイント管理が必要
- プロンプトエンジニアリング: 重み不変だが入力トークン消費。効果が不安定で、プロンプトインジェクションに脆弱
- アクティベーション・ステアリング: 重み不変で推論時に活性化を加算。リアルタイム切替可能。トークン消費なし。ただし効果の予測が難しく、副作用が生じる場合がある
実用的な応用領域
- 安全性制御: 有害コンテンツ生成の抑制。RLHFの補完として拒否方向ベクトルを強化
- 幻覚抑制: ITI手法により事実性の方向ベクトルを増幅し、ハルシネーション率を最大40%削減（Li et al., 2023）
- スタイル制御: フォーマリティ、ユーモア、簡潔さなどのスタイルベクトルで出力トーンを調整
- 多言語制御: 言語方向ベクトルを操作して出力言語を切り替え
- デバッグ・監査: モデル内部の概念表現を可視化し、バイアスや有害パターンを事前検出
課題と限界
- 副作用の予測困難性: 特定の概念ベクトルを操作すると、意図しない他の概念にも影響が波及する（概念の非直交性）
- 層選択の難しさ: どの層で介入するかで効果が大きく変わる。一般に中間層（全層数の40-60%付近）が最も効果的
- スケーラビリティ: モデルサイズが大きくなると活性化空間の次元も増大し、方向ベクトルの特定コストが増加
- 安全性リスク: 拒否方向ベクトルの除去（Arditi et al., 2024）により安全ガードレールが無効化される攻撃手法も存在
よくある質問（FAQ）
Q1: アクティベーション・ステアリングは誰でも実行できるのか？ A: オープンウェイトモデル（Llama 3、Mistral等）では中間層にアクセス可能なため実行できる。API経由のクローズドモデル（GPT-4、Claude等）では内部活性化にアクセスできないため、エンドユーザーが直接実行することは不可能である。
Q2: ステアリングの効果はどの程度持続するのか？ A: 推論リクエスト単位で適用されるため、永続的な効果はない。各推論時にベクトル加算を行う必要がある。逆に言えば、即座にオン/オフを切り替えられる柔軟性がある。
Q3: RLHFとアクティベーション・ステアリングはどちらが優れているのか？ A: 目的が異なる。RLHFは永続的な行動変更に適し、ステアリングはリアルタイムの動的制御に適する。実運用ではRLHFでベースラインの安全性を確保し、ステアリングで細かい調整を行う併用が推奨される。
Q4: Representation EngineeringとMechanistic Interpretabilityの関係は？ A: Mechanistic Interpretabilityが「モデル内部を理解する」基礎研究であるのに対し、Representation Engineeringは理解した内部表現を「操作・制御する」応用研究である。前者が科学なら後者は工学に相当する。
まとめ
- アクティベーション・ステアリングは重みを変更せずにLLMの出力を制御する革新的技術
- CAA、SAE、リニアプローブなど複数の手法が存在し、精度とコストのトレードオフがある
- 安全性制御・幻覚抑制・スタイル制御など幅広い応用が期待される
- 拒否除去などの悪用リスクも存在し、安全性研究との両輪で発展が求められる