技術要約：分位点適応型温度スケーリング（Quantile-Adaptive Temperature Scaling）による信頼度較正

1. 問題定義と動機

深層ニューラルネットワークは、予測が誤っている場合でも過剰な自信を示すことが多く、信頼度の推定が不適切（不較正）になることが頻繁にあります。温度スケーリング（Temperature Scaling: TS）は、その単純さから標準的な事後較正手法として残っていますが、これはロジットのグローバルで一様な再スケーリングに依存しています。著者らは、このアプローチは、信頼度のスペクトラム全体にわたって観察される高度に不均質な誤較正の構造に対処できていないと主張しています。

分位点分析を通じて、本論文は、正解率と信頼度の間の乖離が均一に発生するのではないことを示しています。むしろ、誤較正の場所と形状は、以下のレジームによって大きく異なります：

• 標準的な設定: 誤差は最も低い信頼度の分位点に集中する。
• ロングテール設定: 中頻度クラスの存在により、誤差は中程度の信頼度の分位点へとシフトする。
• 分布シフト: グローバルな再スケーリング手法は、共変量の摂動が信頼度の絶対的なスケールを変化させる一方で、相対的な順序を維持してしまうため、苦戦する。

Group Calibration (GC) や入力依存型温度などの高度なバリアントを含む既存の手法は、滑らかでグローバルに一貫した変換を暗黙的に仮定しています。この構造的な硬直性は、誤較正が最も深刻な特定の領域を効果的にターゲットすることを妨げ、クラス不均衡やドメインシフトのような困難なシナリオにおいて、サブオプティマル（最適とは言えない）な性能につながります。

2. 手法：分位点適応型温度スケーリング (QaTS)

これらの制限に対処するため、著者らは、生の信頼度の大きさではなく、予測の経験的な信頼度分位点に基づいて温度パラメータを適応させる事後較正手法、分位点適応型温度スケーリング (Quantile-Adaptive Temperature Scaling: QaTS) を提案します。

コアメカニズム

1. 分位点再パラメータ化:
   本手法は、較正セットの経験累積分布関数 (CDF) を用いて、生の信頼度 $p$ を一様分位点空間 $\tau \in [0, 1]$ にマッピングします。これにより、期待較正誤差 (Expected Calibration Error: ECE) の目的関数を一様分位点軸上の積分へと変換し、密な信頼度領域が誤差指標を支配することを防ぎ、誤較正の不均質な構造を明示的に扱います。

2. サンプルごとの温度関数:
   単一のスカラー $T$ の代わりに、QaTS は経験的分位点 $q(x)$ の単調線形関数として、サンプル依存の温度 $T(x)$ を定義します：
   $$T(x) = a \cdot (1 - q(x)) + b$$
   ここで、$a$ と $b$ は学習可能な正のパラメータです。

   • 低分位点の予測（通常、過信しておりエラーが発生しやすい）には、より高い温度が適用され、信頼度を軟化させます。
   • 高分位点の予測には、より小さな調整が適用され、精度を維持し、不要な歪みを回避します。

3. 最適化:
   パラメータ $a$ および $b$ は、厳密に適切なスコアリングルールである負の対数尤度 (Negative Log-Likelihood: NLL) を最小化することにより、較正セット上で最適化されます。この代理最適化は、較正された確率を経験的な正解頻度に適合させ、再パラメータ化された ECE を効果的に最小化します。

4. 推論:
   テストサンプル $x$ に対して、ソフトマックスを適用する前に、計算された $T(x)$ によってロジットがスケーリングされます。$T(x)$ は信頼度の絶対値ではなくランク（分位点）に依存するため、本手法は分位点のランクベースの安定性を継承します。これにより、相対的な信頼度の順序がおおよそ保持されている限り、共変量シフトに関連してよく見られるグローバルなロジットスケーリングの効果に対して、QaTS は堅牢になります。

3. 主な貢献

本論文は、主に3つの貢献を概説しています：

1. 分位点ごとの分析: 較正誤差が信頼度のスペクトラム全体で高度に不均質であり、異なるレジーム（標準 vs ロングテール）間で大きく変化することを明らかにする詳細な分析。この分析は、特定の誤差集中領域をターゲットできない既存の TS ベース手法の構造的な限界を露呈させています。
2. QaTS アルゴリズム: 分位点空間で直接動作する、シンプルで効率的な戦略の導入。これは ECE の分位点再パラメータ化を定式化し、各予測の相対的なランクに適応する単調温度関数を導入するものです。
3. 包括的な実証検証: 標準的なコンピュータビジョン、医療画像、テキスト分類、セマンティックセグメンテーションを含む、様々な条件下（ロングテール分布、分布ドリフトを含む）での162のシナリオにわたる広範な実験。

4. 実験結果

著者らは、Uncalibrated モデル、TS、Isotonic Regression (IR)、AdaTS、Group Calibration (GC)、および FeatClip を含む、最先端の事後ベースラインと比較して QaTS を評価しています。

• 標準的なベンチマーク: CIFAR-10、CIFAR-100、および ImageNet において、QaTS は一貫して最も低い ECE を達成し、CNN および Vision Transformer バックボーンの両方において競合するすべての手法を上回りました。
• ロングテール分布: 深刻なクラス不均衡を伴うシナリオ（例：CIFAR-100-LT、ImageNet-LT）では、標準的な手法はしばしば失敗するか性能が低下します。QaTS は顕著な堅牢性を示し、AdaTS や GC などのベースラインと比較して、いくつかのケースで ECE を 80～90% 削減しました。
• 分布シフト: 様々な深刻度レベルの合成的な破損（CIFAR-100-C）の下で、QaTS は精度維持型の手法を大幅に上回り、2～3倍低い ECE を達成しました。特筆すべきは、ターゲットドメインの OOD サンプルを各ターゲットドメインに対して必要とする HFE という手法をも上回っている点です。QaTS は、ターゲットドメインのデータを一切必要とせずにこれを達成しました。
• 汎用性: 医学画像分類（HAM10000, MedMNIST2D）、セマンティックセグメンテーション（Pascal VOC）、およびテキスト分類（20 Newsgroups）において優れた性能を示しました。
• 精度の維持: 精度の大幅な低下（最大 4～6%）を伴って較正を改善する FeatClip とは異なり、QaTS は予測クラスのランキングを保持し、判別性能を維持しながら較正を改善します。
• 互換性: QaTS は補完的な事後レイヤーとして機能し、較正を意識した目的関数（例：Brier loss、Focal Loss、Label Smoothing）を用いて訓練されたモデルの上に適用することで、さらに ECE を減少させることができます。

5. 意義と主張

本論文は、QaTS が事後較正のためのシンプルで効率的かつ堅牢な基盤を提供すると主張しています。その意義は以下の通りです：

• 不均質性への対処: 生の信頼度スコアから分位点空間へと移行することで、QaTS は誤較正が最も深刻な領域を明示的にターゲットし、グローバルな温度スケーリングの「一律的な」限界を克服します。
• シフトに対する堅牢性: ランクベースの定式化により、絶対的な信頼度の大きさが変化しても相対的な順序が保持される分布シフト下での安定性が保証されます。
• 実用性: 再学習、モデルの重みや勾配へのアクセス、あるいは補助的なネットワークを必要としないため、大規模な学習済みモデルや凍結されたバックボーンに対してスケーラブルです。
• 普遍的な適用可能性: 本手法は、多様なタスク、アーキテクチャ、および困難な実世界のシナリオにおいて一貫した有効性を示しており、予測精度を損なうことなく信頼性を向上させるユニバーサルな較正戦略として位置付けられます。