技術要約：物体検出におけるインスタンスレベルの事後的な不確実性定量化

1. 問題の定式化

物体検出は自動運転における安全に直結するコンポーネントであり、バウンディングボックス予測の正確な定量的不確実性が安全性確保のために不可欠である。現在の検出モデルは、通常、学習中にバウンディングボックスの不確実性を定量化する能力を欠いている。一度安全性のためにチューニングされたこれらのモデルは変更できないため、元のネットワークの再学習や変更を必要としない**事後的（post hoc）**な不確実性定量化手法が必要となる。

本論文は、以下の4つの主要な制約を満たしながら、個々のバウンディングボックスごと（インスタンスレベル）の不確実性を推定するという課題に取り組んでいる：

• 非侵入的／事後的（Non-intrusive/Post Hoc）： 手法は、元のモデルの挙動を変更することなく、学習済みモデルに適用できなければならない。
• インスタンスレベル（Instance-Level）： 不確実性は、グローバルなモデルの不確実性ではなく、個々のバウンディングボックスのレベルで推定されなければならない。
• 推論速度（Inference Speed）： 推定は、オンラインの自動運転システムにおいて十分に計算効率的でなければならない。
• エピステミック不確実性（Epistemic Uncertainty）： 手法は、アレオトリックなノイズではなく、モデルの知識不足（パラメータの不確実性）から生じる不確実性を捉えなければならない。

既存の解決策は、重大なトレードオフに直面している：

• サンプリングベースの手法（例：MC Dropout、Deep Ensembles）： 強力ではあるが、多くの場合、複数のモデルの学習を必要としたり、元の最大事後確率（MAP）モデルから逸脱した予測分布を生み出したりするため、厳密には事後的ではない。
• 線形化手法（例：ラプラス近似を用いた一般化線形モデル - GLM）： これらは厳密に事後的であり、MAP予測を保持するが、インスタンスレベルの不確実性計算においては計算コストが極めて高い。各スカラー出力成分に対してヤコビアン $J(x)$ を計算するには、出力ごとに個別のバックプロパゲーションが必要となる。9つのパラメータを持つ$m$個のボックスを予測する検出器の場合、$9m$回のバックプロパゲーションが必要となり、リアルタイムアプリケーションには遅すぎる。

2. 手法：モンテカルロ一般化線形モデル（MC-GLM）

著者らは、ラプラス近似の事後的な保証とモンテカルロ・サンプリングの効率性を組み合わせた近似推論手法であるMC-GLMを提案している。

コアコンセプト

この手法は、MAP推定値 $\theta^*$ の周りでのラプラス近似を用いて、ネットワークの出力 $z = f(x; \theta)$ の予測共分散 $\Sigma_z(x)$ を近似する：
$$\Sigma_z(x) \approx J(x) \Sigma_\theta J(x)^\top$$
ここで、$J(x)$ はヤコビアンであり、$\Sigma_\theta$ はパラメータの事後共分散（KFACを通じてオフラインで計算）である。

全件のヤコビアン $J(x)$ を $d$ 回のバックプロパゲーション（$d$ は出力次元）によって計算する代わりに、MC-GLMはモンテカルロ・サンプリングを用いて共分散を推定する。これは、$J(x)\Sigma_\theta J(x)^\top$ が方向微分 $J(x)\eta$（ただし $\eta \sim \mathcal{N}(0, \Sigma_\theta)$）の共分散と等価であることを利用している。

アルゴリズムのステップ

1. オフラインフェーズ： パラメータ共分散 $\Sigma_\theta$ を得るために、フィッシャー情報行列のKFAC（Kronecker-factored Approximate Curvature）近似を計算する。このステップは、訓練データに対して一度だけ実行される。
2. オンラインフェーズ（入力 $x$ ごと）：
   • 基本予測 $z_0 = f(x; \theta^*)$ を計算する。
   • 重みの摂動 $\eta_i \sim \mathcal{N}(0, \Sigma_\theta)$ を $k$ 個サンプリングする。このサンプリングは、効率化のためにKFACのブロック対角およびクロネッカー構造を利用する。
   • 摂動を加えた重みを用いた $k$ 回のフォワードパスを実行する：$z_i = f(x; \theta^* + \epsilon \eta_i)$。
   • 有限差分を用いて方向微分を近似する：$u_i \approx (z_i - z_0) / \epsilon$。
   • これら $k$ 個の方向微分の行列 $A(x)$ を構築する。
   • $A(x)$ を列中心化して $\tilde{A}(x)$ を得て、標本共分散を計算する：
     $$\hat{\Sigma}_{z, MC-GLM}(x) = \frac{1}{k-1} \tilde{A}(x) \tilde{A}(x)^\top$$
3. インスタンスレベルの集計： 物体検出の場合、出力ベクトルはバウンディングボックスごとにパラメータをグループ化するように再構成される。本手法は、効率化のためにボックス間の相関を無視しつつ、ボックス内の相関を捉えるパーボックス共分散テンソル $\hat{\Sigma}_i(x) \in \mathbb{R}^{9 \times 9}$ を計算する。

主要な効率化機能

MC-GLMの計算コストは $k+1$ 回のフォワードパスであり、ここで $k$ は小さな定数ハイパーパラメータ（例：10）である。決定的なことは、このコストが検出されたインスタンスの数 ($m$) に依存しないことである。これに対し、厳密なGLMは $9m$ 回のバックプロパゲーションを必要とする。これにより、MC-GLMは並列化が可能であり、検出数の増加に関わらず推論時間を一定に保ったままスケールさせることができる。

3. 主な貢献

• MC-GLMフレームワーク： 物体検出のための、インスタンスレベルかつ近似的に事後的な不確実性定量化を提供する新しい手法。
• 計算効率： 高価なヤコビアン計算を固定数のフォワードパス（$k$）に置き換えることで、出力インスタンスの数ではなくサンプル数に対して線形な時間計算量を実現した。
• 事後的な互換性（Post Hoc Compatibility）： サンプリングベースのベイズ的手法とは異なり、予測平均が元の学習済みモデルの出力 ($f(x; \theta^*)$) と一致することを保証する。
• KFACの統合： 効率的なパラメータ共分散のオフライン計算と構造化されたサンプリングのためにKFACを活用しており、大規模な検出器への適用を可能にしている。

4. 実験結果

本手法は、CenterPoint 3D物体検出器を用い、nuScenesデータセットで評価された。

• 指標： 性能は、正確かつ確実である確率 $P(A|C)$、不正確かつ不確実である確率 $P(U|I)$、および精度対不確実性（Accuracy vs Uncertainty: $AvU$）を用いて測定された。
• 比較対象のベースライン：
  • MCI (Monte Carlo Integration)： MC Dropoutを使用。
  • GLM： 全ヤコビアン計算を伴う厳密なラプラス近似。
• 知見：
  • 不確実性の質： MC-GLMは $P(U|I)$ において厳密なGLMを大幅に上回っており（IoUにおいて0.14に対し0.40）、不正確な予測をより良く特定できることを示している。また、$P(A|C)$ においてはGLMやMCIと同等の性能を達成している。
  • 速度： MC-GLMはGLMよりも大幅に高速である。平均して、GLMは約10,636 ms（$9m$ 回のバックプロパゲーションによる）を要したが、MC-GLMは約542 ms（11回のフォワードパス）であった。MCIはわずかに速かった（約525 ms）が、事後性の要件を満たしていなかった。
  • アブレーション研究：
    • フィッシャー深度（Fisher Depth）： より深いネットワーク層からのフィッシャー情報を利用すると $AvU$ が向上するが、メモリ使用量が増加する。ヘッドのみの近似は良好なトレードオフを提供している。
    • データサブサンプリング： 訓練データの5-10%でフィッシャー行列を推定することで、同等の不確実性の質が得られ、オフラインコストを削減できる。
    • ハイパーパラメータ： 小さな有限差分ステップ（$\epsilon = 10^{-7}$）と適度なサンプル数（$k=10$）があれば、高品質な推定には十分である。

5. 重要性と主張

本論文は、MC-GLMが安全性が極めて重要な自動運転システムにおける決定的なギャップを埋めるものであると主張している。本手法は、厳格な事後制約（再学習なし、元のモデルの挙動を維持）を遵守しながら、リアルタイム展開に適した推論速度を維持する、実用的なインスタンスレベルの不確実性定量化ツールを提供する。

著者らは、従来のメソッドが「遅すぎる（厳密なGLM）」か「予測分布を変えてしまう（MC Dropout/Ensembles）」かのいずれかであるのに対し、MC-GLMはバランスの取れたソリューションを提供することを強調している。これは、検出されたオブジェクトの数に関わらず一定の計算コストで、すべての検出オブジェクトに対してエピステミック不確実性を定量化することを可能にし、自動運転車におけるオンラインの安全性確保を実現するものである。