Temperature Scaling（テンペラチャースケーリング）

Temperature Scalingとは

Temperature Scaling（温度スケーリング）はニューラルネットワークの信頼度校正において最も広く採用されている事後校正手法である。Guo et al.が2017年のICML論文「On Calibration of Modern Neural Networks」で提案し、現代の深層学習モデルが著しく過信であることを実証するとともに単一パラメータの温度Tによる除算だけで校正を大幅に改善できることを示した。

q_i = softmax(z_i / T) = exp(z_i / T) / Σ_j exp(z_j / T)

z_iはモデルの出力logit、Tは温度パラメータ（T > 0）、q_iは校正後の確率である。T = 1のとき元のモデル出力と一致しT > 1で確率分布が平坦化、T < 1で尖鋭化する。LLMの過信モデルに対してT > 1を適用することで確率分布をソフト化し最大確率クラスへの過度な集中を緩和する。GPT系モデルではT = 1.5〜2.5、BERT系モデルではT = 1.2〜1.8の範囲が最適となることが多い。

パラメータ推定の数学的詳細

温度パラメータTは検証データセット上でNLL（Negative Log-Likelihood）を最小化することにより推定する。

T* = argmin_T Σ_(x,y)∈D_val [-log q_y(x; T)]

この最適化問題は凸であるため勾配降下法やL-BFGS等の標準的な最適化手法で大域最適解が保証される。

Platt Scalingとの比較

Temperature Scalingはlogitに対するスケーリングのみ（1パラメータ）だがPlatt Scalingはアフィン変換（2パラメータ: a, b）を適用する。

# Temperature Scaling: 1パラメータ
q_i = softmax(z_i / T)

# Platt Scaling: 2パラメータ
q_i = sigmoid(a * z_i + b)

Platt Scalingはバイアス項bを持つためベースレートの偏りを補正できるが過適合のリスクがやや高い。検証データ1,000サンプル未満ではTemperature Scalingの方が安定する。

実装方法

PyTorchによる基本実装

import torch
import torch.nn as nn
import torch.optim as optim

class TemperatureScaler(nn.Module):
    def __init__(self):
        super().__init__()
        self.temperature = nn.Parameter(torch.ones(1) * 1.5)

    def forward(self, logits):
        return logits / self.temperature

    def fit(self, val_logits, val_labels, lr=0.01, max_iter=50):
        nll_criterion = nn.CrossEntropyLoss()
        optimizer = optim.LBFGS([self.temperature], lr=lr, max_iter=max_iter)

        def eval_fn():
            optimizer.zero_grad()
            scaled = self.forward(val_logits)
            loss = nll_criterion(scaled, val_labels)
            loss.backward()
            return loss

        optimizer.step(eval_fn)
        return self.temperature.item()

LLMへの適用（OpenAI API + logprobs）

import numpy as np
from openai import OpenAI

client = OpenAI()

def get_calibrated_confidence(prompt, temperature_param=1.8):
    response = client.chat.completions.create(
        model="gpt-4o",
        messages=[{"role": "user", "content": prompt}],
        logprobs=True,
        top_logprobs=5
    )
    token_logprobs = [t.logprob for t in response.choices[0].logprobs.content]
    raw_confidence = np.exp(np.mean(token_logprobs))
    calibrated = np.exp(np.mean(token_logprobs) / temperature_param)
    return {"raw": raw_confidence, "calibrated": calibrated, "T": temperature_param}

他の事後校正手法との比較

LLM固有の考慮事項

生成温度と校正温度の違い

LLMのTemperature Scalingは生成時の温度パラメータ（generation temperature）と混同されやすい。

• 生成温度: テキスト生成時のサンプリング多様性を制御（T=0で貪欲デコード）
• 校正温度: 生成済みテキストのトークン確率を事後的にスケーリングし校正誤差を最小化

実運用では生成温度T_gen=0.7で高品質テキストを生成し校正温度T_cal=1.8で確率を再スケーリングする2段階パイプラインが推奨される。

シーケンスレベルへの拡張

def sequence_calibrated_confidence(token_logprobs, T_cal):
    scaled = [lp / T_cal for lp in token_logprobs]
    return np.exp(sum(scaled) / len(scaled))

長いシーケンスほど確信度が低下する系統バイアスがあり、長さ正規化や長さ依存の温度パラメータT(L)の導入が改善策として研究されている。

よくある質問（FAQ）

Q1: 温度パラメータはどのように決めるべきですか？

A1: 検証データセット上でNLLを最小化するTを求めるのが標準的手法である。検証データは1,000サンプル以上が望ましく対象タスクのドメインに合致したデータを使用する。L-BFGS法で初期値T=1.5から開始し通常5〜20イテレーションで収束する。検証データとテストデータは独立でなければならずテストデータ上でTを調整するとオーバーフィッティングになる。

Q2: モデルの精度に影響しますか？

A2: 影響しない。Temperature Scalingはsoftmax適用前のlogitを一様にスケーリングするためargmax（最大確率クラス）は変化しない。モデルの予測ラベルは校正前後で同一であり分類精度は不変である。変化するのは各クラスに割り当てられる確率値のみである。ただしSelective Predictionと組み合わせた場合は閾値の再設定が必要になるため間接的に有効精度が変化する。

Q3: Temperature Scalingが効かない場合は？

A3: Temperature Scalingは確率分布の全体的スケール調整であり局所的な校正不良には効果が限定的である。（1）Isotonic Regression: ノンパラメトリック手法で任意形状の校正関数を学習可能だが検証データ3,000サンプル以上必要。（2）Ensemble Temperature Scaling: クラス別に異なる温度パラメータを割り当てる拡張版。（3）Focal Loss等の学習時校正との2段階校正。まずTemperature Scalingを試しreliability diagramを確認して局所的乖離が残る場合にIsotonic Regressionへ切り替えるのが効率的である。