Anomaly-Informed Confidence Calibration for Vision-Based Safety Prediction

技術的概要：視覚ベースの安全予測のための異常情報に基づく信頼性較正

問題定義
信頼性の高い信頼度推定は、自動レーシングなどの安全クリティカルな自律システムにおける視覚ベースの制御器の展開に不可欠である。現代の予測器は、テスト時の分布シフトに遭遇した際、危険な過信を示す傾向がある。この研究で特定された主要な障壁は「知覚 - 力学のギャップ」である。標準的な異常信号（例えば、オートエンコーダの再構成誤差）は観測空間のみに作用する。これらは視覚的な破損（暗闇、ぼやけなど）を効果的に検出するが、画像ストリームは妥当でありながら車両の軌道が静かに逸脱する力学異常（作動バイアス、制御遅延、モデル化されていない摩擦など）を検出することはできない。標準的な温度スケーリングなどの既存の事後較正手法は、単一の固定スカラーに依存しており、分布シフト下では著しく劣化する。一方、Deep Ensembles や MC Dropout などのより豊富な不確実性定量化手法は、リアルタイム制御と両立しない計算コストを要し、すべての異常を単一の不確実性の源として扱う。

手法
著者は、ベースの安全予測器を再学習させることなく安全信頼度を調整する「異常情報に基づくオンライン較正」フレームワークを提案する。このアプローチは、凍結された「ワールドモデル」とテスト時拡張（TTA）からの信号を、軽量な較正器に統合する。パイプラインは 4 つの段階で構成される。

1. 異常スコアの抽出: フレームワークは、学習されたワールドモデル（潜在力学を有する VAE）から 2 つの相補的な連続的な異常スコアを抽出する。

   • 知覚スコア ($\rho_i$): VAE デコーダのコンテキストウィンドウにわたる平均ピクセルごとの再構成誤差から導出される。これは視覚的な分布シフトを捉える。
   • 力学スコア ($\delta_i$): 状態遷移空間における 12 次元特徴ベクトルのマハラノビス距離から導出される。このベクトルには、モンテカルロドロップアウトの不確実性推定値、動作パターン統計（フリーズ率、ジャークなど）、および時間的相関が含まれる。このスコアは、画像を視覚的に正常なままに保つ遷移力学の異常を捉える。
     両方のスコアは、分布内統計を用いて $[0, 1]$ に正規化される。

2. テスト時拡張 (TTA): 視覚的ロバスト性を高めるため、安全予測器 $g$ を、元の画像に加えて $M=8$ の拡張バージョン（ランダムな光度ジッターとガウスノイズ）で評価する。予測値を平均化して、滑らかなベース予測 $\bar{p}_{i+k}$ を生成する。この段階は、微小な視覚的摂動に対する感度を低減する。

3. 異常条件付き温度スケーリング: 中核的な革新は、有効温度 $T_{eff}$ が異常スコアの関数となる動的な温度スケーリング機構である。
   $$T_{eff} = T_k \cdot \exp(w_\rho \rho_i + w_\delta \delta_i)$$
   ここで、$T_k$ は予測ホライズンごとの基本温度であり、$w_\rho, w_\delta$ は学習可能な重みである。異常の証拠（$\rho_i, \delta_i$）が増加するにつれて $T_{eff}$ が増加し、予測確率を 0.5 側に引き寄せ、過信を低減する。異常が存在しない場合、この手法は標準的な温度スケーリングに帰着する。

4. 学習 regime: 較正器は、分布内データと合成拡張データ（テストプロトコルと交差しない破損タイプを使用）の混合で学習される。ベースの安全予測器とワールドモデルは、較正学習中は凍結されたままとなる。

主要な貢献

1. オンライン較正フレームワーク: ワールドモデルからの異常証拠と TTA を融合し、ベース予測器を再学習させることなくリアルタイムで安全信頼度を調整する手法。
2. 分離された異常スコアリング: 純粋な視覚異常信号が残す「知覚 - 力学のギャップ」に対処するため、知覚スコアと力学スコアを分離する戦略。
3. 物理的検証: 合成拡張で学習した較正が、質的に異なる現実世界の破損にも転移することを示す、物理的な DonkeyCar プラットフォームでの検証。

実験結果
この手法は、4 つの未見の現実世界の異常プロトコル（暗闇（視覚）、ぼやけ（視覚）、作動バイアス（力学）、処理遅延（力学））の下で、物理的な DonkeyCar 上で評価された。

• OOD 検出: 融合された異常スコアは、分布内データと OOD データを区別する上で平均 AUROC 0.830 を達成し、Feature Norm (0.658) や予測導出ヒューリスティクス（約 0.54）などのベースラインを大幅に上回った。特に、力学スコアは画像レベルの手法が苦労する作動バイアスや遅延の検出において大幅な改善をもたらした。
• 較正性能: 提案手法は、平均期待較正誤差（ECE）を最良のベースライン（DAC）の 0.184 から 0.116 に低減し、37% の改善を示した。
• アブレーション研究:
  • 知覚スコア（$\rho$）は支配的な較正信号を提供し、TTA に追加された場合、OOD 平均 ECE を 28% 低減した。
  • 力学スコア（$\delta$）は、特にクロスシード分散の低減と力学固有の異常の検出改善において相補的なロバスト性を貢献したが、TTA+$\rho$ に追加された場合、平均 ECE をさらに大幅に低下させることはなかった。
  • この手法は分布内性能を保持し、保持された正規テストセット上で平均 ECE 0.121 を達成した。

意義と主張
この論文は、安全クリティカルなロボティクスにおける信頼性の高い信頼度推定には、単一スカラー較正と純粋な視覚異常検出を超えたアプローチが必要であると主張している。「知覚 - 力学のギャップ」を明示的にモデル化し、較正温度を分離された異常証拠に基づいて条件付けることで、システムは分布シフト下で過信を選択的に低減しつつ、正規性能を維持できる。この研究は、合成拡張が現実世界の破損の構造的代理として機能し、合成データで学習された較正器が、基盤となる安全予測器を再学習させることなく、未見の物理的異常（例えば、ハードウェアの劣化）へ一般化できることを実証している。著者は、この手法が強い転移性を示す一方で、学習時の深刻度範囲を超えた外挿は依然として限界であると指摘している。