Rethinking Training & Inference for Forecasting: Linking Winner-Take-All back to GMMs

Sintesi Tecnica: Ripensare l'Addestramento e l'Inferenza per la Previsione

Definizione del Problema
La previsione delle traiettorie per la guida autonoma ha fatto passi da gigante, con molti modelli allo stato dell'arte che generano molteplici candidati per catturare la natura multimodale del comportamento futuro degli agenti. Questi modelli tipicamente producono un insieme di $K$ candidati (spesso $K=64$) con probabilità associate, destinati a rappresentare un Modello a Miscela Gaussiana (GMM) condizionale. Tuttavia, esiste un collo di bottiglia critico: le probabilità dei modi predetti sono spesso poco informative. I modelli assegnano frequentemente probabilità basse a comportamenti corretti e comuni, o esibiscono probabilità instabili tra candidati simili. Ciò porta a una selezione inefficiente dei modi (mode pruning), dove i metodi di selezione standard (ad esempio, la selezione greedy dei top-$K$ probabilità) non riescono a recuperare le traiettorie future più probabili, causando potenzialmente comportamenti di pianificazione eccessivamente conservativi o insicuri.

Gli autori identificano la causa radice in un disallineamento tra modellazione e addestramento (modeling-training mismatch). Sebbene questi modelli siano progettati per rappresentare GMM, vengono addestrati utilizzando una funzione di perdita Winner-Take-All (WTA). L'obiettivo WTA assegna ogni campione di ground-truth al suo singolo modo predetto più vicino (assegnazione hard) per prevenire il collasso dei modi (mode collapse), dove tutti i modi convergono verso un'unica predizione. Gli autori sostengono che, sebbene il WTA incoraggi con successo la diversità, questa assegnazione hard sposta fondamentalmente l'obiettivo di apprendimento dalla stima probabilistica di un GMM a un obiettivo di clustering K-Means. Questo spostamento causa due problemi primari:

1. Sovra-segmentazione: Un singolo modo comportamentale reale (ad esempio, "girare a destra") viene frammentato in più modi predetti distinti, ognuno dei quali rivendica un sottoinsieme dei dati.
2. Posteriori poco informativi: Poiché la massa di probabilità di un singolo comportamento reale è divisa tra molti modi frammentati, le probabilità dei singoli modi appaiono basse, rendendole inaffidabili per la classificazione o la selezione.

Metodologia
Il documento propone una prospettiva unificata che vede i previsori addestrati con WTA attraverso la lente del clustering K-Means piuttosto che come puri GMM. Sulla base di questa intuizione, gli autori introducono due trattamenti post-hoc leggeri che non richiedono il riaddestramento dell'architettura di base:

1. Fusione dei Posteriori Pesata al Tempo di Test (Test-Time Posterior-Weighted Merging):
   Riconoscendo che il WTA porta alla sovra-segmentazione, questo metodo aggrega le traiettorie candidate vicine. Utilizza un processo iterativo simile al clustering K-Means:

• Assegna le traiettorie predette iniziali ai centri dei cluster più vicini (basandosi sulla distanza euclidea dei waypoint finali).
• Ricalcola i centri dei cluster utilizzando una formula di media pesata, dove i pesi sono le probabilità della miscela predette.
• Ripete fino alla convergenza.
  Questo fonde efficacementamente i modi frammentati in cluster comportamentali coerenti, recuperando i componenti della distribuzione reale.

2. Aggiornamento One-Step Expectation-Maximization (EM):
   Per affrontare direttamente le probabilità poco informative, gli autori propongono di sostituire le etichette hard utilizzate durante l'addestramento con responsabilità soft. Ciò comporta un singolo passaggio EM applicato come fase di post-elaborazione o di fine-tuning:

• E-step: Calcola le responsabilità soft ($w_k$) per ogni modo dati il ground-truth e i parametri attuali del modello, calcolando effettivamente la probabilità a posteriori $p(k | \mathbf{y}^*)$.
• M-step: Aggiorna i pesi della miscela ($\hat{p}_k$) per massimizzare la verosimiglianza sotto queste assegnazioni soft.
  Questo passaggio condivide la massa di probabilità tra i modi vicini, correggendo il bias dell'assegnazione "hard" e producendo classifiche dei modi più fedeli.

Contributi Chiave

• Unificazione Teorica: Il documento fornisce una spiegazione fondata che collega l'obiettivo di addestramento WTA al clustering K-Means, chiarendo perché i modelli addestrati con WTA esibiscono sovra-segmentazione e probabilità poco informative nonostante una diversità di successo.
• Correzioni Pratiche: Gli autori introducono due strategie post-hoc (fusione e aggiornamento EM a uno step) che allineano le assunzioni probabilistiche al tempo di inferenza con gli obiettivi di addestramento. Questi metodi migliorano la qualità dei posteri dei modi senza riaddestrare le architetture di deep learning sottostanti.
• Validazione Empirica: L'approccio è validato attraverso tre modelli rappresentativi addestrati con WTA (Wayformer, MTR-e2e e EMP) sui dataset NuScenes e Waymo Open Motion (WOMD).

Risultati
Gli esperimenti dimostrano che i trattamenti proposti migliorano significativamente le prestazioni di previsione:

• Fusione (Merging): La fusione basata sul clustering supera la selezione greedy ingenua e la Non-Maximum Suppression (NMS) nelle metriche di spostamento (minADE, minFDE) e nel Brier-minFDE. In alcuni casi (ad esempio, MTR-e2e), la fusione supera leggermente anche i modelli addestrati direttamente per predire il numero finale di modi ($M=5$).
• One-Step EM: L'applicazione dell'aggiornamento EM migliora l'accuratezza dei metodi di selezione greedy e NMS. Su NuScenes, il fine-tuning con l'aggiornamento EM a uno step ha ridotto il Brier-minFDE fino al 29% per Wayformer e al 20% per MTR-e2e rispetto alla selezione greedy originale.
• Qualità della Verosimiglianza (Likelihood Quality): La log-verosimiglianza negativa (NLL) del ground-truth migliora significativamente dopo il passaggio EM, indicando che le probabilità corrette riflettono meglio la distribuzione reale dei dati. La distribuzione degli errori minFDE si sposta verso predizioni più accurate, e la massa di probabilità si concentra più efficacemente sui comportamenti futuri corretti.

Significatività e Rivendicazioni
Il documento sostiene che la sua analisi offre una "correzione fondata e pratica" a un problema diffuso nella previsione del movimento. Inquadrando l'obiettivo WTA come una variante del K-Means, gli autori forniscono una base teorica per cui la selezione post-hoc standard fallisce e come risolverlo. La significatività risiede nell'offrire un modo per allineare gli obiettivi di addestramento con le assunzioni di modellazione probabilistica al tempo di inferenza senza il costo computazionale di un intero riaddestramento o la complessità di un addestramento EM iterativo durante lo sviluppo iniziale del modello. Gli autori suggeriscono che i professionisti dovrebbero utilizzare la fusione basata sul clustering se è richiesta flessibilità nel numero di modi, o applicare il fine-tuning con l'aggimento EM a uno step se la velocità di inferenza è la priorità, ottenendo così un'accuratezza superiore rispetto ai metodi di selezione greedy standard.