Safety with Agency: Human-Centered Safety Filter with Application to AI-Assisted Motorsports

Riassunto Tecnico: Safety with Agency (HCSF)

1. Il Problema: Il Conflitto tra Sicurezza e Agenzia Umana

Nel campo dell'autonomia condivisa (shared autonomy), specialmente in contesti ad alte prestazioni come il motorsport, esiste un trade-off critico tra la sicurezza garantita dall'IA e il senso di controllo (agenzia) dell'operatore umano.
I filtri di sicurezza tradizionali, come il Last-Resort Safety Filter (LRSF) basato sulla reachability di Hamilton-Jacobi (HJ), intervengono in modo brusco e discontinuo solo quando il sistema è sul punto di fallire. Questo approccio causa:

• "Automation Surprise": L'operatore viene colto alla sprovvista da correzioni improvvise.
• Perdita di Agenzia: L'intervento ignora l'intento dell'umano, rendendo l'esperienza scomoda e riducendo la fiducia nel sistema.
• Limiti Computazionali: I metodi basati su modelli richiedono la conoscenza della dinamica del sistema (spesso ignota o troppo complessa) e soffrono della "maledizione della dimensionalità".

2. Metodologia: Human-Centered Safety Filter (HCSF)

Gli autori propongono un nuovo framework, l'HCSF, progettato per intervenire in modo fluido e minimo, preservando l'intento del conducente.

A. Sintesi del Filtro (Q-CBF):
La novità matematica risiede nell'introduzione di una Control Barrier Function basata sulla funzione valore stato-azione (Q-CBF).

• Invece di utilizzare una funzione valore di stato $V(x)$ (che indica solo se uno stato è sicuro), il metodo utilizza la funzione $Q(x, u)$, appresa tramite Reinforcement Learning (RL) model-free.
• Proprietà Model-Free: A differenza dei CBF classici, il Q-CBF non richiede la conoscenza esplicita delle equazioni dinamiche del sistema (modello black-box). Il vincolo di sicurezza viene imposto tramite la relazione:
  $$Q(x, u) \geq \gamma V(x)$$
  dove $\gamma$ è un parametro di design che regola la velocità con cui la sicurezza può degradare, permettendo interventi preventivi e non solo reattivi.

B. Ottimizzazione in Runtime:
In fase di esecuzione, l'HCSF risolve un problema di ottimizzazione che cerca l'azione $u$ più vicina all'azione umana $u_{human}$, minimizzando la deviazione:
$$\min_{u \in U} \|u_{human}(x) - u\|^2 \quad \text{soggetto a} \quad Q(x, u) \geq \gamma V(x)$$
Questo garantisce che l'intervento sia il più piccolo possibile per mantenere il sistema all'interno del set di sicurezza massimo.

C. Implementazione e Trasparenza:
Il sistema è stato testato su Assetto Corsa, un simulatore ad alta fedeltà. Per migliorare la collaborazione uomo-macchina, gli autori hanno implementato segnali visivi (frecce sullo schermo) che indicano la direzione e l'entità della correzione effettuata dall'IA, rendendo l'intervento trasparente.

3. Contributi Chiave

1. Primo filtro CBF totalmente model-free: Capacità di operare su sistemi complessi e dinamiche ignote senza modelli matematici predefiniti.
2. Nuovo vincolo Q-CBF: Un approccio che integra la teoria della reachability con l'ottimizzazione degli input per minimizzare l'interferenza con l'umano.
3. Validazione in ambito Shared Autonomy ad alta dinamica: Il primo studio su larga scala che valuta non solo la sicurezza tecnica, ma anche l'impatto psicologico (comfort, agenzia, soddisfazione) in un contesto di racing.

4. Risultati Sperimentali

Attraverso uno studio con 83 partecipanti, i risultati hanno confermato le ipotesi:

• Robustezza: L'HCSF ha ridotto drasticamente gli incidenti (fuori pista e collisioni) rispetto alla guida non assistita, mantenendo livelli di sicurezza paragonabili (se non superiori) al filtro LRSF.
• Agenzia Umana: L'HCSF ha mostrato una deviazione dell'input significativamente minore rispetto al LRSF. Gli utenti hanno riportato un senso di controllo molto più elevato, simile a quello della guida senza assistenza.
• Comfort e Fluidità: I dati sul jerk (variazione dell'accelerazione) e sulla continuità dell'input hanno dimostrato che l'HCSF produce una guida molto più fluida e meno "scattosa" rispetto ai filtri tradizionali.
• Soddisfazione: L'HCSF ha ottenuto i punteggi di soddisfazione complessiva più alti, superando sia la guida non assistita che il filtro LRSF.

5. Significato e Impatto

Il lavoro segna un cambio di paradigma nella sicurezza robotica: la sicurezza non deve essere solo un "freno d'emergenza" che interrompe l'azione umana, ma può essere un co-pilota invisibile e fluido.
L'approccio è scalabile e applicabile a una vasta gamma di sistemi di assistenza alla guida (ADAS) e robotica collaborativa, dove la fiducia dell'utente e la naturalezza dell'interazione sono fondamentali quanto la prevenzione degli incidenti.