Riepilogo Tecnico: CAffNet: Reti Neurali Affine a Vincolo Rigido

Enunciato del Problema

Le reti neurali (NN) possiedono una straordinaria potenza espressiva per l'approssimazione di funzioni non lineari complesse, rendendole preziose per domini critici per la sicurezza come veicoli autonomi, robotica e aerospaziale. Tuttavia, rimane una sfida significativa nel garantire che i controller appresi forniscano la soddisfazione formale di vincoli rigidi.

Gli approcci esistenti soffrono di limitazioni specifiche:

• Vincoli Morbidi: I metodi basati su penalità incoraggiano output sicuri ma non offrono alcuna garanzia di soddisfazione, specialmente con dati di addestramento limitati o casi limite fuori distribuzione.
• Post-Processing: L'imposizione dei vincoli dopo l'addestramento può portare a subottimalità.
• Vincoli Rigidi Indipendenti dall'Input: Metodi come C-DGM o RAYEN gestiscono vincoli generali ma assumono che l'insieme ammissibile sia indipendente dall'input.
• Vincoli Rigidi Dipendenti dall'Input: Lavori recenti (ad es. POLICE, KKT-hPINN, HardNet-Aff) affrontano vincoli dipendenti dall'input ma affrontano restrizioni critiche. Nello specifico, HardNet-Aff assume che la matrice dei vincoli $A(x)$ abbia rango riga pieno. Questo limita il numero di vincoli alla dimensione dell'output e fallisce quando i vincoli sono linearmente dipendenti, proiettando potenzialmente gli output fuori dalla regione ammissibile. Inoltre, questi metodi spesso faticano con proiezioni non uniche quando la matrice dei vincoli non ha rango colonna pieno.

Metodologia: Framework CAffNet

Gli autori propongono CAffNet (Reti Neurali Affine a Vincolo Rigido), un framework a forma chiusa che incorpora un livello Affine a Vincolo (CAffine) addestrabile nelle architetture standard feedforward o transformer. Il framework impone vincoli di disuguaglianza affini dipendenti dall'input della forma:
$$A(x)y \leq b(x)$$
dove $x$ è l'input, $y$ è l'output e non vi sono restrizioni sul numero di vincoli ($m$) o sul rango di $A(x)$.

Componenti Principali

1. Decomposizione dei Vincoli:
   Per gestire un numero arbitrario di vincoli, il metodo scompone l'insieme dei vincoli in sottoinsiemi più piccoli (sotto-vincoli). Ispirandosi alla geometria dei poliedri, gli autori osservano che una regione ammissibile è definita da facce minime, che richiedono al massimo $n_{out}$ vincoli linearmente indipendenti. Il metodo considera combinazioni di $k$ vincoli (dove $1 \leq k \leq \min(m, n_{out})$) per formare sottomatrici $A_\gamma$ e sottovettori $b_\gamma$.

2. Proiezione Addestrabile con Nucleo:
   Per ogni sotto-vincolo $\gamma$, il framework calcola una proiezione $P_\gamma(x)$ utilizzando un'espressione a forma chiusa:
   $$P_\gamma(x) = f_\theta(x) - A_\gamma^\dagger(x)(A_\gamma(x)f_\theta(x) - b_\gamma(x)) + (I - A_\gamma^\dagger(x)A_\gamma(x))w_\phi(x)$$

   • $f_\theta(x)$: Output di una rete neurale senza vincoli.
   • $A_\gamma^\dagger(x)$: Pseudoinversa di Moore-Penrose della matrice del sotto-vincolo.
   • $w_\phi(x)$: Un componente del nucleo addestrabile parametrizzato da una rete neurale.

   Il termine $(I - A_\gamma^\dagger A_\gamma)w_\phi(x)$ è cruciale. Quando i vincoli sono linearmente dipendenti (risultando in uno spazio di soluzioni non unico), questo termine permette alla rete di apprendere un punto ottimale all'interno del nucleo (ad es. selezionando un punto specifico su un bordo o una faccia ammissibile) piuttosto che affidarsi esclusivamente alla proiezione ortogonale.

3. Selezione del Candidato Ammissibile:
   L'output finale $P^*(x)$ è selezionato dall'insieme di tutte le proiezioni valide $S_P(x)$ (quelle che soddisfano $A(x)y \leq b(x)$) che minimizzano la distanza dall'output senza vincoli $f_\theta(x)$. Se l'output senza vincoli è già ammissibile, viene utilizzato direttamente.

Contributi Chiave

1. Imposizione di Vincoli Rigidi a Forma Chiusa: CAffNet garantisce la soddisfazione rigida di un numero arbitrario di vincoli di disuguaglianza affini dipendenti dall'input senza richiedere che la matrice dei vincoli $A(x)$ abbia rango riga pieno.
2. Proiezione Robusta tramite Decomposizione: Introducendo la decomposizione dei vincoli e un modulo del nucleo addestrabile, il metodo gestisce vincoli linearmente dipendenti e proiezioni non uniche, superando le limitazioni dei precedenti metodi basati su proiezione come HardNet-Aff.
3. Proprietà di Approssimazione Universale: Gli autori dimostrano che CAffNet preserva la proprietà di approssimazione universale delle reti neurali sottostanti (sia feedforward che transformer). Il framework può approssimare qualsiasi funzione continua all'interno dell'insieme ammissibile vincolato.
4. Scalabilità (CAffNet-Lite): È stata proposta una variante ridotta, CAffNet-Lite, per mitigare la complessità computazionale limitando lo spazio di ricerca alle facce minime (vertici) piuttosto che a tutte le combinazioni, riducendo la complessità da esponenziale a polinomiale nel numero di vincoli.

Risultati Sperimentali

Il documento convalida CAffNet in tre scenari, confrontandolo con NN standard con vincoli morbidi e HardNet-Aff:

1. Apprendimento di Funzioni Non Lineari con Vincoli a Pezzi:

   • Le varianti di CAffNet hanno soddisfatto rigorosamente tutti i vincoli, mentre NN e HardNet hanno mostrato violazioni.
   • CAffNet-TF (basato su Transformer) ha ottenuto il più basso Errore Quadratico Medio (MSE), riducendolo del 73,33% rispetto alla NN con vincoli morbidi.
   • CAffNet ha dimostrato tassi di convergenza più rapidi e una perdita iniziale inferiore.

2. Apprendimento di Solutori di Ottimizzazione:

   • In un problema che coinvolge vincoli di disuguaglianza e uguaglianza, le varianti di CAffNet hanno soddisfatto rigorosamente tutti i vincoli (0% di violazioni), mentre NN e HardNet hanno fallito significativamente sui vincoli di uguaglianza.
   • CAffNet-FF ha raggiunto valori della funzione obiettivo comparabili al solutore di riferimento IPOPT ma con tempi di inferenza significativamente più rapidi, rendendolo adatto per applicazioni in tempo reale.
   • CAffNet-Lite ha raggiunto le stesse prestazioni della versione completa riducendo i tempi di addestramento e test di circa il 45%.

3. Apprendimento di Politiche di Controllo per Sistemi Critici per la Sicurezza:

   • In un compito di controllo di un robot unicyclo con evitamento ostacoli, CAffNet-FF ha navigato con successo verso l'obiettivo senza collisioni o violazioni dei vincoli.
   • Sia NN che HardNet hanno colliso con ostacoli a causa di violazioni dei vincoli.
   • Crucialmente, l'imposizione a posteriori (applicando la proiezione solo dopo l'addestramento) ha portato il robot a rimanere bloccato, dimostrando la necessità di ottimizzazione congiunta tra i parametri della rete e il livello di proiezione.

Significato e Affermazioni

Il documento afferma che CAffNet affronta una sfida aperta fondamentale nel deployment di reti neurali in sistemi critici per la sicurezza: garantire simultaneamente accuratezza di approssimazione e soddisfazione dimostrabile dei vincoli.

• Garanzie Formali: A differenza dei metodi basati su penalità, CAffNet fornisce garanzie matematiche che gli output soddisferanno i vincoli per tutti gli input, purché l'insieme ammissibile non sia vuoto.
• Versatilità Architettonica: Il framework è compatibile con architetture standard (NN feedforward e Transformer) e non limita la dimensionalità dello spazio dei vincoli rispetto all'output.
• Ottimalità: Addestrando congiuntamente la rete e il livello di proiezione, CAffNet trova soluzioni ammissibili ottimali, mentre i metodi di post-processing possono portare a prestazioni subottimali o inammissibilità.

Gli autori concludono che, sebbene il framework fornisca garanzie solide sotto le ipotesi dichiarate, non garantisce intrinsecamente la completezza dei vincoli o l'accuratezza del modello di sistema. Pertanto, la validazione indipendente e l'analisi di sicurezza specifica del dominio rimangono necessarie per il deployment in applicazioni reali critiche per la sicurezza. Il lavoro futuro è diretto verso l'estensione del framework a vincoli non affini e la convalida delle prestazioni su piattaforme robotiche fisiche.