Resumo Técnico: Quantificação de Incerteza em Nível de Instância para Detecção de Objetos Post Hoc

1. Formulação do Problema

A detecção de objetos é um componente crítico para a segurança em direção autônoma, onde a quantificação precisa da incerteza das previsões de caixas delimitadoras (bounding boxes) é essencial para a garantia de segurança. Os modelos de detecção atuais normalmente carecem da capacidade de quantificar a incerteza da caixa delimitadora durante o treinamento. Uma vez ajustados para segurança, esses modelos não podem ser alterados, o que exige métodos de quantificação de incerteza post hoc que não exijam o retreinamento ou a modificação da rede original.

O artigo aborda o desafio de estimar a incerteza para cada caixa delimitadora individual (nível de instância) enquanto satisfaz quatro restrições fundamentais:

• Não intrusivo/Post Hoc: O método deve ser aplicável a modelos pré-treinados sem alterar seu comportamento.
• Nível de Instância: A incerteza deve ser estimada ao nível de caixas delimitadoras individuais, não apenas a incerteza global do modelo.
• Velocidade de Inferência: A estimativa deve ser computacionalmente eficiente o suficiente para sistemas de direção autônoma online.
• Incerteza Epistêmica: O método deve capturar a incerteza decorrente da falta de conhecimento do modelo (incerteza de parâmetros), em vez de ruído aleatório (aleatório).

As soluções existentes enfrentam trade-offs significativos:

• Métodos baseados em amostragem (ex: MC Dropout, Deep Ensembles): Embora poderosos, não são estritamente post hoc, pois frequentemente exigem o treinamento de múltiplos modelos ou produzem distribuições preditivas que se desviam do modelo Máxima A Posteriori (MAP) original.
• Métodos linearizados (ex: Modelo Linear Generalizado - GLM com Aproximação de Laplace): Estes são estritamente post hoc e preservam a predição MAP, mas são computacionalmente proibitivos para incerteza em nível de instância. Calcular o Jacobiano $J(x)$ para cada componente escalar de saída requer uma passagem de backpropagation separada por saída. Um detector que prevê $m$ caixas com 9 parâmetros cada exige $9m$ backpropagations, o que é muito lento para aplicações em tempo real.

2. Metodologia: Modelo Linearizado de Monte Carlo (MC-GLM)

Os autores propõem o MC-GLM, um método de inferência aproximada que combina as garantias post hoc da aproximação de Laplace com a eficiência da amostragem de Monte Carlo.

Conceito Central

O método aproxima a covariância preditiva $\Sigma_z(x)$ da saída da rede $z = f(x; \theta)$ usando a aproximação de Laplace em torno da estimativa MAP $\theta^*$:
$$\Sigma_z(x) \approx J(x) \Sigma_\theta J(x)^\top$$
onde $J(x)$ é o Jacobiano e $\Sigma_\theta$ é a covariância posterior dos parâmetros (computada offline via KFAC).

Em vez de calcular o Jacobiano completo $J(x)$ através de $d$ backpropagations (onde $d$ é a dimensão da saída), o MC-GLM estima a covariância via amostragem de Monte Carlo. Ele reconhece que $J(x)\Sigma_\theta J(x)^\top$ é equivalente à covariância das derivadas direcionais $J(x)\eta$, onde $\eta \sim \mathcal{N}(0, \Sigma_\theta)$.

Etapas do Algoritmo

1. Fase Offline: Computar a aproximação KFAC (Curvatura Aproximada Fatorada por Kronecker) da matriz de informação de Fisher para obter a covariância de parâmetros $\Sigma_\theta$. Esta etapa é realizada uma única vez nos dados de treinamento.
2. Fase Online (Por entrada $x$):
   • Computar a predição base $z_0 = f(x; \theta^*)$.
   • Amostrar $k$ perturbações de peso $\eta_i \sim \mathcal{N}(0, \Sigma_\theta)$. A amostragem explora a estrutura de Kronecker e de bloco-diagonal do KFAC para ser eficiente.
   • Realizar $k$ passagens para frente (forward passes) com pesos perturbados: $z_i = f(x; \theta^* + \epsilon \eta_i)$.
   • Aproximar as derivadas direcionais usando diferenças finitas: $u_i \approx (z_i - z_0) / \epsilon$.
   • Construir uma matriz $A(x)$ dessas $k$ derivadas direcionais.
   • Centralizar as colunas de $A(x)$ para obter $\tilde{A}(x)$ e computar a covariância amostral:
     $$\hat{\Sigma}_{z, MC-GLM}(x) = \frac{1}{k-1} \tilde{A}(x) \tilde{A}(x)^\top$$
3. Agregação de Nível de Instância: Para detecção de objetos, o vetor de saída é remodelado para agrupar parâmetros por caixa delimitadora. O método computa um tensor de covariância por caixa $\hat{\Sigma}_i(x) \in \mathbb{R}^{9 \times 9}$, capturando correlações dentro de uma caixa enquanto ignora correlações entre caixas para eficiência.

Recurso de Eficiência Chave

O custo computacional do MC-GLM é de $k+1$ passagens para frente (forward passes), onde $k$ é um hiperparâmetro constante pequeno (ex: 10). Crucialmente, este custo é independente do número de instâncias detectadas ($m$). Em contraste, o GLM exato requer $9m$ backpropagations. Isso permite que o MC-GLM seja paralelizado e escalonado para qualquer número de detecções sem aumentar o tempo de inferência.

3. Principais Contribuições

• Framework MC-GLM: Um método inovador que fornece quantificação de incerteza post hoc em nível de instância para detecção de objetos.
• Eficiência Computacional: Ao substituir o dispendioso cálculo do Jacobiano por um número fixo de passagens para frente ($k$), o método alcança complexidade de tempo linear em relação ao número de amostras, em vez de ao número de instâncias de saída.
• Compatibilidade Post Hoc: O método garante que a média preditiva corresponda à saída do modelo pré-treinado original ($f(x; \theta^*)$), ao contrário dos métodos de amostragem que deslocam a média.
• Integração com KFAC: O método utiliza o KFAC para a computação eficiente da covariância de parâmetros e amostragem estruturada, tornando-o viável para detectores de grande escala.

4. Resultados Experimentais

O método foi avaliado no dataset nuScenes utilizando o detector de objetos 3D CenterPoint.

• Métricas: O desempenho foi medido pela Probabilidade de Precisão dado que é Certo ($P(A|C)$), Probabilidade de Incerteza dado que é Incorreto ($P(U|I)$) e Precisão vs Incerteza ($AvU$).
• Baselines de Comparação:
  • MCI (Integração de Monte Carlo): Utiliza MC Dropout.
  • GLM: Aproximação de Laplace exata com computação de Jacobiano completo.
• Descobertas:
  • Qualidade da Incerteza: O MC-GLM supera significativamente o GLM exato em $P(U|I)$ (0.40 vs 0.14 para IoU), indicando melhor identificação de predições incorretas. Ele alcança um $P(A|C)$ comparável ao GLM e MCI.
  • Velocidade: O MC-GLM é substancialmente mais rápido que o GLM. Em média, o GLM exigiu 10.636 ms por entrada (devido aos $9m$ backpropagations), enquanto o MC-GLM exigiu apenas ~542 ms (11 forward passes). O MCI foi ligeiramente mais rápido (525 ms), mas falhou no requisito post hoc.
  • Estudos de Ablação:
    • Profundidade de Fisher: Usar a informação de Fisher de camadas mais profundas da rede melhora o $AvU$, mas aumenta o uso de memória; a aproximação apenas do "head" oferece um bom equilíbrio.
    • Subamostragem de Dados: Estimar a matriz de Fisher em 5-10% dos dados de treinamento produz uma qualidade de incerteza comparável, reduzindo os custos offline.
    • Hiperparâmetros: Um passo de diferença finita pequeno ($\epsilon = 10^{-7}$) e um número modesto de amostras ($k=10$) são suficientes para estimativas de alta qualidade.

5. Significância e Alegações

O artigo afirma que o MC-GLM preenche uma lacuna crítica em sistemas de direção autônoma focados em segurança. Ele fornece uma ferramenta prática de quantificação de incerteza em nível de instância que adere a rigorosas restrições post hoc (sem retreinamento, preservando o comportamento do modelo original) enquanto mantém velocidades de inferência adequadas para implantação em tempo real.

Os autores enfatem que, ao contrário de métodos anteriores que são ou muito lentos (GLM exato) ou alteram a distribuição preditiva do modelo (MC Dropout/Ensembles), o MC-GLM oferece uma solução equilibrada. Ele permite a quantificação da incerteza epistêmica para cada objeto detectado com um custo computacional que é constante e independente do número de detecções, tornando-o viável para a garantia de segurança online em veículos autônomos.