Sintesi Tecnica: PersonaDrive

Problematica

I simulatori di guida a ciclo chiuso, essenziali per l'addestramento e la valutazione di policy di guida autonoma, soffrono attualmente di una mancanza di diversità comportamentale negli agenti del traffico non-ego. Gli ambienti esistenti si affidano a gestori del traffico basati su regole o a modelli appresi addestrati verso un singolo modo comportamentale, producendo un traffico omogeneo che non riesce a catturare l'eterogeneità stilistica dei veri conducenti umani (che varia dal conservativo all'aggressivo). Questo divario limita la generalizzazione delle policy ego, particolarmente in scenari ad alta interazione come gli inserimenti in autostrada o le svolte non protette.

I tentativi attuali di introdurre variazioni di stile affrontano tre limitazioni primarie:

1. Segnali Proxy: I metodi che si affidano a etichette osservative post-hoc o a pesi di ricompensa inferiti da LLM agiscono come proxy dello stile piuttosto che catturare il reale comportamento umano quando istruiti esplicitamente a guidare in uno stile specifico.
2. Limitazioni del Database Singolo: Gli approcci esistenti di recupero aumentato (retrieval-augmented) utilizzano un unico database condiviso, rendendo impossibile distinguere quali esempi recuperati siano rilevanti per uno specifico stile di guida.
3. Disallineamento: Gli approcci che utilizzano LLM per approssimare le ricompense di stile introducono livelli di disallineamento tra l'istruzione di stile e il comportamento di guida risultante, poiché la stima di un LLM di "guida aggressiva" potrebbe non riflettere l'effettiva esecuzione umana.

Metodologia

Gli autori introducono PersonaDrive, una pipeline che condiziona un agente di guida Vision-Language-Action (VLA) su dimostrazioni recuperate da un dataset di guida umana con istruzioni di stile. Il sistema opera attraverso tre fasi distinte:

1. Raccolta Dati: Guida Umana con Istruzione di Stile

Un dataset controllato è stato raccolto utilizzando un rig driver-in-the-loop con $M=8$ partecipanti. Ogni partecipante ha guidato percorsi CARLA Leaderboard sotto tre istruzioni esplicite: Conservativa, Neutrale e Aggressiva.

• Decoupling (Disaccoppiamento): Il design disaccoppia lo stile dall'identità del conducente facendo sì che ogni partecipante guidi gli stessi percorsi sotto i tre stili.
• Annotazioni: I dati includono RGB frontale, stato ego (velocità, acceleratore, sterzata, comando), target GPS e waypoint. Le annotazioni post-hoc includono descrizioni della scena tramite Visual Question Answering (VQA) e commenti in linguaggio libero.

2. Pipeline di Addestramento a Tre Stadi

Stadio 1: Offline Triplet Mining
Per determinare la similarità comportamentale, il sistema costruisce "frasi di frame" strutturate per ogni frame di guida, combinando i dati visivi con il contesto in linguaggio naturale (VQA, commenti, comandi e waypoint eseguiti). Viene calcolato un punteggio di similarità combinata ($\sigma$) utilizzando un encoder visivo SigLIP congelato e un encoder di frasi BGE-M3 congelato. Questo punteggio guida il mining dei tripletti di addestramento:

• Positivi: Frame con alta similarità combinata (stessa scena, contesto e azione).
• Hard Negatives: Frame con alta similarità visiva ma bassa similarità testuale/di contesto (comandi o velocità differenti).
• Easy Negatives: Frame con bassa similarità in entrambe le modalità.

Stadio 2: Addestramento della Testa di Recupero (Retrieval Head)
Un modello di recupero leggero viene addestrato per fondere le caratteristiche visive congelate con un encoder di controllo appreso (che elabora velocità, acceleratore, sterzata e comando). A differenza dello Stadio 1, non viene utilizzato alcun encoder testuale durante l'inferenza. Il modello è addestrato sui tripletti estratti utilizzando una perdita di tripletto pesata che penalizza più severamente la confusione dei hard negatives (visivamente simili ma comportamentalmente differenti). Ciò produce una singola testa di recupero condivisa che può interrogare database specifici per stile.

Stadio 3: In-Context Fine-Tuning
Il backbone VLA (basato su SimLingo/InternVL2-1B) viene sottoposto a fine-tuning per interpretare i punti di contesto recuperati come dimostrazioni comportamentali. I dati di addestramento sono un mix di traiettorie agnostiche rispetto allo stile e i dati PersonaDrive con istruzione di stile. Il modello impara a predire i waypoint per la scena corrente per analogia con i $K=2$ esempi recuperati, senza che vengano fornite esplicitamente etichette di stile come input.

3. Meccanismo di Inferenza

All'inferenza, il sistema seleziona uno stile di guida scambiando l'indice FAISS interrogato dalla testa di recupero (ad esempio, passando dall'indice "Conservativo" all'indice "Aggressivo"). I top-$K$ punti di contesto recuperati vengono preposti all'osservazione corrente come token di contesto. Il backbone VLA predice i waypoint, che vengono poi decodificati da un controllore PID in comandi di acceleratore, freno e sterzata. Fondamentalmente, non è richiesto alcun ri-addestramento del backbone per ogni stile; il cambio di stile è un'operazione di recupero.

Contributi Chiave

1. Dataset con Istruzione di Stile: Un nuovo dataset in cui i conducenti umani eseguono esplicitamente tre stili distinti attraverso diversi scenari di traffico, disaccoppiando lo stile dall'identità del conducente per consentire la supervisione diretta del comportamento condizionato allo stile.
2. Architettura Triplet-RAG: Una nuova architettura in cui il controllo dello stile è ottenuto attraverso il recupero di dimostrazioni umane anziché tramite token fissi, ricompense proxy o fine-tuning del modello per ogni stile. Ciò consente a un singolo backbone condiviso di supportare molteplici comportamenti umani distinti.
3. Cambio di Stile Efficiente: Un meccanismo in cui il cambio dello stile di guida all'inferenza richiede solo lo scambio dell'indice FAISS, evitando il costo computazionale del ri-addestramento o del mantenimento di molteplici pesi del modello.

Risultati

Valutato sul benchmark a ciclo chiuso Bench2Drive:

• Performance Senza Stile: PersonaDrive (senza condizionamento di stile) ha ottenuto un Driving Score (DS) di 88.95, superando SimLingo (85.07) del 4,6% e HiP-AD (86.77) del 2,5%. Ciò dimostra che la pipeline di recupero migliora la capacità di guida a ciclo chiuso senza compromettere le prestazioni.
• Performance Condizionate allo Stile: PersonaDrive ha ottenuto il Driving Score più alto in ogni condizione di stile (Aggressivo: 88.35, Neutrale: 87.21, Conservativo: 89.16).
  • In ogni stile, PersonaDrive ha superato il baseline più forte (DMW) con un margine di 5,2 - 8,9 punti di DS.
  • Il modello ha modulato con successo il comportamento secondo le istruzioni: la velocità media è aumentata del 18% e l'accelerazione del 25% passando dall'istruzione Conservativa a quella Aggressiva.
  • I tassi di successo sono rimasti competitivi con i baseline, mentre le metriche di efficienza e comfort erano allineate allo stile previsto (ad esempio, maggiore comfort per il Conservativo, minore per l'Aggressivo).

Significato e Rivendicazioni

Il paper sostiene che PersonaDrive colmi il divario tra il traffico simulato omogeneo e il traffico reale eterogeneo, radicando gli agenti del simulatore nel reale comportamento umano anziché in segnali proxy. Trattando lo stile come una distribuzione comportamentale a livello di classe basata su esplicite istruzioni umane, il sistema genera agenti non-ego diversificati per stile che migliorano la fedeltà delle simulazioni a ciclo chiuso.

Gli autori sottolineano che il loro approccio evita gli errori di approssimazione delle ricompense inferite da LLM e le limitazioni del recupero da un database singolo. La capacità di cambiare stile all'inferenza senza ri-addestrare il backbone offre una soluzione scalabile per popolare i simulatori con agenti del traffico diversificati e simili agli umani, migliorando così la robustezza delle policy di guida autonoma addestrate in questi ambienti.

Il lavoro riconosce alcune limitazioni, tra cui la natura discreta del set di stili (rispetto alla guida reale continua), la dimensione attuale del gruppo di partecipanti ($M=8$) e la dipendenza da una singola telecamera frontale nella simulazione. Il lavoro futuro è orientato verso la modellazione di stili continui, gruppi di partecipanti più ampi e il trasferimento sim-to-real.