Synergistic Simplex: Cooperative Runtime Assurance for Safety-Critical Autonomous Systems

Riepilogo Tecnico: Simplex Sinergico (SS)

Enunciato del Problema
I sistemi autonomi, in particolare i veicoli autonomi (AV), si affidano sempre più all'apprendimento automatico (ML) per compiti critici per la sicurezza come la percezione e il controllo. Sebbene il ML offra elevate prestazioni, è intrinsecamente non verificabile e suscettibile a guasti a coda lunga (ad esempio, perturbazioni avverse o mancate rilevazioni) che possono portare a guasti catastrofici. Le architetture di Assicurazione in Esecuzione (RTA), come i design Simplex e Simplex di Percezione (PS), affrontano questo problema accoppiando un livello ML non verificato ad alte prestazioni con un livello di sicurezza verificato e conservativo. Tuttavia, i design RTA tradizionali soffrono di un grave collo di bottiglia: il livello di sicurezza opera in isolamento, incapace di utilizzare gli output del ML. Ciò porta a un eccessivo conservatorismo, in cui il livello di sicurezza sovrascrive le azioni del ML anche quando l'output del ML è sicuro ma semplicemente non verificato, degradando le prestazioni e l'efficienza del sistema. Inoltre, gli standard di certificazione della sicurezza proibiscono tipicamente ai livelli di sicurezza di utilizzare informazioni ML non verificabili, creando una separazione rigida che limita l'ottimizzazione.

Metodologia
Il documento propone l'architettura Simplex Sinergico (SS), una generalizzazione del paradigma Simplex che abilita la comunicazione bidirezionale tra il livello ML e il livello di sicurezza, preservando al contempo le garanzie formali di sicurezza. L'architettura è composta da due collegamenti di comunicazione primari:

1. Collegamento Sicurezza-a-ML (S2M): Invece di sovrascrivere immediatamente un'azione ML non sicura, il livello di sicurezza comunica vincoli verificati (ad esempio, posizioni degli ostacoli) al livello ML. Al livello ML viene quindi richiesto di ricalcolare un'azione entro questi limiti verificati. Se viene trovata una ricalcolazione sicura, questa viene eseguita; altrimenti, il livello di sicurezza applica un'azione di sicurezza di fallback. Questo trasforma il meccanismo di sovrascrittura da un interruttore rigido a un processo cooperativo.
2. Collegamento ML-a-Sicurezza (M2S): Questo collegamento permette al livello di sicurezza di incorporare output specifici e selezionati dal livello ML per affinare il processo decisionale. Crucialmente, il documento formalizza le condizioni in cui ciò è sicuro. Utilizzando un modello probabilistico di propagazione dei guasti su un Grafo Aciclico Diretto (DAG) dello stack di autonomia, gli autori dimostrano che il livello di sicurezza può utilizzare in sicurezza gli output ML provenienti da funzioni indipendenti (ad esempio, rilevamento delle corsie quando si monitora il rilevamento degli ostacoli), ma deve vietare rigorosamente l'uso di funzioni a monte (che potrebbero corrompere il modulo monitorato) o funzioni a valle (che creerebbero loop di feedback violando il modello di guasto statico).

Gli autori forniscono un'analisi formale di sicurezza che dimostra che, sotto specifiche assunzioni (verifica fondata, spazio degli stati manovrabili sicuro e indipendenza delle funzioni ML utilizzate), l'SS preserva le garanzie di sicurezza deterministiche del Simplex di Percezione originale.

Contributi Chiave

• Architettura Simplex Sinergico: Un design innovativo che abilita l'interazione bidirezionale tra i livelli ML e di sicurezza per migliorare le prestazioni senza violare la sicurezza.
• Analisi Formale di Sicurezza: Una rigorosa derivazione delle condizioni in cui la comunicazione bidirezionale preserva le garanzie di sicurezza del PS. In particolare, il documento dimostra che l'utilizzo di output ML indipendenti (come il rilevamento delle corsie) nel livello di sicurezza non compromette le garanzie di sicurezza relative alla funzione monitorata (rilevamento degli ostacoli).
• Design di Riferimento per AV: Un'istanza concreta di SS per veicoli autonomi, che utilizza un rilevatore geometrico di sicurezza basato su LiDAR e uno stack di percezione basato su ML (TransFuser++).
• Valutazione Empirica: Estesa valutazione negli ambienti di simulazione CARLA e nuPlan che dimostra i compromessi tra sicurezza e prestazioni.

Risultati
La valutazione si è concentrata sui guasti di rilevamento degli ostacoli nel livello ML in due scenari:

1. Ostacolo in Corsia (Esperimento 1): Quando un ostacolo viene mancato nella corsia del veicolo ego, sia PS che SS (variante M2S) prevengono con successo le collisioni (Tasso di Collisione = 0,0) attivando la frenata di emergenza. Tuttavia, nell'ambiente CARLA, ciò comporta una fermata completa e il fallimento del percorso (Tasso di Completamento del Percorso = 0,0). Una valutazione ausiliaria in nuPlan (che supporta l'iniezione di vincoli) ha mostrato che il collegamento S2M permette al pianificatore di ripianificare ed evitare fermate non necessarie, raggiungendo un tasso di completamento del percorso del 74% mantenendo la sicurezza.
2. Ostacolo in Corsia Adiacente (Esperimento 2): Quando un ostacolo viene mancato in una corsia adiacente, l'architettura PS standard lo tratta come una minaccia critica, attivando una frenata di emergenza conservativa e risultando in un basso completamento del percorso (10%). Al contrario, la variante SS (M2S) utilizza le informazioni sulle corsie derivate dal ML per classificare l'ostacolo come non critico (Zona 2). Ciò permette al sistema di applicare un'attenuazione più leggera (rilascio dell'acceleratore) piuttosto che la frenata di emergenza, migliorando significativamente il tasso di completamento del percorso fino al 70% mantenendo zero collisioni.

Significato e Affermazioni
Il documento afferma che il Simplex Sinergico sfida con successo la tradizionale separazione rigorosa tra livelli di missione e di sicurezza. Derivando formalmente le condizioni per la comunicazione bidirezionale, l'SS dimostra che i componenti ML ad alte prestazioni e le garanzie di sicurezza verificabili non devono essere obiettivi in competizione. L'architettura permette ai sistemi critici per la sicurezza di sfruttare i benefici prestazionali del ML (come il contesto della corsia) per ridurre il conservatorismo non necessario e migliorare il completamento del compito, mantenendo al contempo le garanzie di sicurezza deterministiche del framework Simplex sottostante. Il lavoro ipotizza che gli standard di certificazione della sicurezza possano essere soddisfatti anche quando i livelli di sicurezza utilizzano informazioni ML, a condizione che siano soddisfatte le condizioni di indipendenza strutturale.