Can Attribution Predict Risk? From Multi-View Attribution to Planning Risk Signals in End-to-End Autonomous Driving

Resumo Técnico: Atribuição Prevê Risco em Direção Autônoma de Ponta a Ponta

Declaração do Problema
Modelos de direção autônoma de ponta a ponta mapeam entradas brutas de sensores multi-visão diretamente para trajetórias de planejamento, oferecendo integração aprimorada do sistema, mas introduzindo processos de tomada de decisão opacos. Embora os métodos existentes de interpretabilidade gerem explicações textuais ou treinem modelos de monitoramento auxiliares, eles frequentemente falham em revelar as evidências visuais específicas que fundamentam a geração de trajetórias ou permanecem desacoplados do processo de planejamento. Existe uma lacuna crítica em determinar se mapas de atribuição — tipicamente usados para explicação post-hoc — podem servir como sinais preditivos para risco de planejamento. Especificamente, não está claro se a distribuição da dependência de um planejador sobre evidências visuais em seis visões de câmera correlaciona-se com erros de trajetória ou riscos de colisão.

Metodologia
Os autores propõem um framework de atribuição hierárquico projetado especificamente para planejadores de ponta a ponta multi-visão. A metodologia consiste em três componentes principais:

1. Atribuição Hierárquica do Grosso ao Fino:

   • Entrada e Particionamento: O sistema recebe imagens de câmera sincronizadas de seis visões e particiona cada visão em sub-regiões usando segmentação por superpixels SLICO.
   • Função Objetivo: Diferentemente da atribuição baseada em classificação que maximiza a confiança da classe, este framework utiliza consistência de trajetória L2 como objetivo. Ele define uma função de conjunto $F(S)$ baseada em suficiência (manter as regiões $S$ mantém a trajetória original) e necessidade (remover as regiões $S$ causa desvio significativo).
   • Estratégia de Busca: Para abordar o custo computacional de avaliar subconjuntos em um espaço de seis visões, uma busca gananciosa do grosso ao fino é empregada.
     • Etapa Grossa: Sub-regiões adjacentes são mescladas em grupos. O algoritmo classifica globalmente esses grupos para identificar clusters de alta contribuição.
     • Etapa de Refinamento: Dentro dos grupos de maior classificação, o algoritmo realiza uma busca mais fina sobre sub-regiões individuais, usando os grupos precedentes como prefixo condicional. Isso produz um tensor de saliência por pixel fiel $T$.

2. Derivação de Sinais de Risco:
   Tratando o tensor de saliência como uma distribuição de probabilidade sobre o espaço conjunto de pixels multi-câmera, os autores extraem três estatísticas complementares para quantificar o "excesso de dependência", hipotetizando que o planejamento robusto deve evitar concentrar a dependência em evidências limitadas:

   • Entropia de Atribuição ($H$): Mede a concentração global da atribuição em todo o espaço de seis visões. Baixa entropia indica dependência de um pequeno conjunto de locais visuais.
   • Variância Espacial Dentro da Câmera ($\sigma^2_{sp}$): Caracteriza a dispersão espacial da atribuição dentro de visões individuais de câmera. Baixa variância indica dependência altamente localizada dentro de uma visão.
   • Coeficiente de Gini Entre Câmeras ($Gini_{cam}$): Quantifica o desequilíbrio da massa de atribuição entre as seis câmeras. Valores altos indicam dependência desproporcional em visões específicas.

3. Framework de Previsão de Risco:
   Essas estatísticas são usadas como características para prever dois proxies de risco de planejamento:

   • Erro de Trajetória: Medido pelo Erro Médio de Deslocamento (ADE).
   • Risco de Colisão: Um indicador binário de se a trajetória prevista intersecta um obstáculo.
     Os autores ajustam regressão ridge para ADE e regressão logística para detecção de colisão, avaliando o desempenho via correlação de Spearman e AUROC.

Principais Contribuições

• Atribuição Preditiva: O artigo investiga e valida que a atribuição pode se estender além da explicação post-hoc para servir como um sinal preditivo para risco de planejamento em direção autônoma de ponta a ponta.
• Algoritmo de Atribuição Multi-Visão: Um método de atribuição do grosso ao fino inovador que trata seis visões de câmera como um espaço de busca unificado, utilizando consistência de trajetória L2 em vez de confiança de classificação.
• Estatísticas de Risco: A definição de três estatísticas (Entropia, Variância Espacial, Gini) que quantificam, respectivamente, excesso de dependência global, dentro da visão e entre visões.
• Validação Empírica: Experimentos abrangentes no conjunto de dados nuScenes usando três planejadores distintos (BridgeAD, UniAD, GenAD) demonstrando a correlação entre padrões de atribuição e risco.

Resultados Experimentais
Os experimentos foram conduzidos no conjunto de validação nuScenes com BridgeAD, UniAD e GenAD:

• Correlação de Risco: As estatísticas de atribuição mostram correlação significativa com risco de planejamento. Para previsão de colisão, o modelo conjunto alcançou um AUROC de 0,77 ± 0,04 entre os três planejadores. Para erro de trajetória, a correlação de Spearman atingiu 0,30 ± 0,07.
• Generalização: O sinal de risco generaliza-se para cenas não vistas (divisão 80/20) com degradação negligenciável (AUROC 0,77 ± 0,09), indicando que o sinal está ligado à estrutura de atribuição e não a layouts específicos de objetos da cena.
• Robustez: Substituir a atribuição hierárquica proposta por uma linha de base de amostragem aleatória (RISE) produziu sinais mais fracos, mas consistentes (AUROC 0,67 ± 0,11), sugerindo que as estatísticas de risco não são artefatos do algoritmo de atribuição específico.
• Variáveis de Controle: A associação entre atribuição e risco persiste mesmo ao controlar a configuração de objetos da cena (por exemplo, contagem de objetos, dispersão espacial), confirmando que o sinal reflete a dependência visual do planejador e não mera complexidade da cena.
• Eficiência: A busca hierárquica é significativamente mais rápida que a busca gananciosa exata (EAGLE) enquanto mantém alta fidelidade (mais próxima do EAGLE do que do RISE).

Significado e Afirmações
O artigo afirma que padrões de atribuição fornecem sinais de aviso úteis para risco em nível de decisão em planejadores de direção de ponta a ponta. Ao tratar a atribuição como um objeto de medição e não apenas como uma ferramenta de visualização, o framework permite auditorias escaláveis pré-implementação. Ele permite que desenvolvedores identifiquem cenas onde a dependência de um planejador sobre evidências visuais é concentrada, espacialmente difusa ou desigualmente distribuída de maneiras que co-ocorrem com risco elevado.

Os autores mantêm uma postura modesta, enfatizando que essas estatísticas são sinais diagnósticos e não certificações de segurança. Eles notam que, embora os sinais corrijam com o risco em nível populacional, eles não garantem segurança por amostra. O framework é apresentado como uma ferramenta complementar às avaliações de segurança existentes do lado de saída (como verificações de erro de trajetória) e simulação em malha fechada, ajudando a localizar cenários propensos a falhas com mais eficiência do que a inspeção visual isolada. A principal limitação reconhecida é o custo computacional da atribuição de alta fidelidade, que atualmente impede monitoramento online em tempo real, embora os resultados sugiram o potencial para métodos futuros de atribuição em tempo real e de alta fidelidade.