Technische Samenvatting: CAffNet: Affiene Neuronale Netwerken met Harde Constraints

Probleemstelling

Neuronale netwerken (NN) bezitten een opmerkelijke uitdrukkingskracht voor het benaderen van complexe niet-lineaire functies, wat hen waardevol maakt voor veiligheidskritieke domeinen zoals autonome voertuigen, robotica en lucht- en ruimtevaart. Een aanzienlijke uitdaging blijft echter het waarborgen dat geleerde controllers formele garantie bieden voor het voldoen aan harde constraints.

Bestaande benaderingen lijden aan specifieke beperkingen:

• Zachte Constraints: Strafbasismethoden stimuleren veilige outputs, maar bieden geen garantie voor voldoening, vooral bij beperkte trainingsdata of randgevallen buiten de verdeling.
• Nabewerking: Het afdwingen van constraints na het trainen kan leiden tot suboptimaliteit.
• Input-Onafhankelijke Harde Constraints: Methoden zoals C-DGM's of RAYEN behandelen algemene constraints, maar gaan ervan uit dat de haalbare verzameling onafhankelijk is van de input.
• Input-Afhankelijke Harde Constraints: Recent werk (bijv. POLICE, KKT-hPINN, HardNet-Aff) adresseert input-afhankelijke constraints, maar staat voor kritieke beperkingen. Specifiek veronderstelt HardNet-Aff dat de constraint-matrix $A(x)$ volledige rijrang heeft. Dit beperkt het aantal constraints tot de outputdimensie en faalt wanneer constraints lineair afhankelijk zijn, wat mogelijk outputs projecteert buiten de haalbare regio. Bovendien worstelen deze methoden vaak met niet-unieke projecties wanneer de constraint-matrix niet volledige kolomrang heeft.

Methodologie: CAffNet Framework

De auteurs stellen CAffNet (Hard Constraint-Affine Neural Networks) voor, een gesloten-vorm framework dat een trainbare Constraint-Affine (CAffine) laag inbouwt in standaard feedforward- of transformer-architecturen. Het framework dwingt input-afhankelijke affiene ongelijkheidsconstraints van de vorm af:
$$A(x)y \leq b(x)$$
waarbij $x$ de input is, $y$ de output, en er geen restricties zijn op het aantal constraints ($m$) of de rang van $A(x)$.

Kerncomponenten

1. Constraint Decompositie:
   Om een willekeurig aantal constraints te hanteren, decomposeert de methode de constraint-set in kleinere subsets (sub-constraints). Geïnspireerd door de geometrie van polyhedra, observeren de auteurs dat een haalbare regio wordt gedefinieerd door minimale vlakken, die ten hoogste $n_{out}$ lineair onafhankelijke constraints vereisen. De methode overweegt combinaties van $k$ constraints (waarbij $1 \leq k \leq \min(m, n_{out})$) om sub-matrices $A_\gamma$ en sub-vectoren $b_\gamma$ te vormen.

2. Trainbare Projectie met Nulruimte:
   Voor elke sub-constraint $\gamma$ berekent het framework een projectie $P_\gamma(x)$ met behulp van een gesloten-vorm expressie:
   $$P_\gamma(x) = f_\theta(x) - A_\gamma^\dagger(x)(A_\gamma(x)f_\theta(x) - b_\gamma(x)) + (I - A_\gamma^\dagger(x)A_\gamma(x))w_\phi(x)$$

   • $f_\theta(x)$: Output van een onbeperkt neuronale netwerk.
   • $A_\gamma^\dagger(x)$: Moore-Penrose pseudoinverse van de sub-constraint-matrix.
   • $w_\phi(x)$: Een trainbaar nulruimte-component geparametriseerd door een neuronale netwerk.

   De term $(I - A_\gamma^\dagger A_\gamma)w_\phi(x)$ is cruciaal. Wanneer constraints lineair afhankelijk zijn (wat resulteert in een niet-unieke oplossingsruimte), stelt deze term het netwerk in staat om een optimaal punt binnen de nulruimte te leren (bijv. het selecteren van een specifiek punt op een haalbare rand of vlak) in plaats van uitsluitend te vertrouwen op orthogonale projectie.

3. Selectie van Haalbare Kandidaten:
   De uiteindelijke output $P^*(x)$ wordt geselecteerd uit de verzameling van alle geldige projecties $S_P(x)$ (die voldoen aan $A(x)y \leq b(x)$) die de afstand tot de onbeperkte output $f_\theta(x)$ minimaliseren. Als de onbeperkte output al haalbaar is, wordt deze direct gebruikt.

Belangrijkste Bijdragen

1. Gesloten-vorm Handhaving van Harde Constraints: CAffNet garandeert harde voldoening aan een willekeurig aantal input-afhankelijke affiene ongelijkheidsconstraints zonder dat de constraint-matrix $A(x)$ volledige rijrang hoeft te hebben.
2. Robuuste Projectie via Decompositie: Door het introduceren van constraint-decompositie en een trainbaar nulruimte-module, hanteert de methode lineair afhankelijke constraints en niet-unieke projecties, waarmee de beperkingen van eerdere projectie-gebaseerde methoden zoals HardNet-Aff worden overwonnen.
3. Universele Benaderingseigenschap: De auteurs bewijzen dat CAffNet de universele benaderingseigenschap van de onderliggende neuronale netwerken (zowel feedforward als transformers) behoudt. Het framework kan elke continue functie binnen de beperkte haalbare verzameling benaderen.
4. Schaalbaarheid (CAffNet-Lite): Een gereduceerde variant, CAffNet-Lite, wordt voorgesteld om de computationele complexiteit te mitigeren door de zoekruimte te beperken tot minimale vlakken (hoekpunten) in plaats van alle combinaties, waardoor de complexiteit exponentieel naar polynomiaal wordt gereduceerd in het aantal constraints.

Experimentele Resultaten

Het artikel valideert CAffNet in drie scenario's, waarbij het wordt vergeleken met standaard NN's met zachte constraints en HardNet-Aff:

1. Leren van Niet-lineaire Functies met Stuksgewijze Constraints:

   • CAffnet-varianten voldeden strikt aan alle constraints, terwijl NN en HardNet overtredingen vertoonden.
   • CAffNet-TF (Transformer-gebaseerd) behaalde de laagste Gemiddelde Kwadratische Fout (MSE), met een reductie van 73,33% vergeleken met de zacht-constraint NN.
   • CAffNet demonstreerde snellere convergentiesnelheden en een lagere initiële fout.

2. Leren van Optimalisatieoplossers:

   • In een probleem met ongelijkheids- en gelijkheidsconstraints voldeden CAffNet-varianten strikt aan alle constraints (0% overtreding), terwijl NN en HardNet significant faalden op gelijkheidsconstraints.
   • CAffNet-FF behaalde objectivewaarden vergelijkbaar met de benchmark-oplosser IPOPT, maar met aanzienlijk snellere inferentietijden, waardoor het geschikt is voor real-time toepassingen.
   • CAffNet-Lite behaalde dezelfde prestaties als de volledige versie, terwijl de trainings- en testtijd met ongeveer 45% werd gereduceerd.

3. Leren van Controlebeleid voor Veiligheidskritieke Systemen:

   • In een taak voor het besturen van een eenwieler-robot met obstakelvermijding, navigeerde CAffNet-FF succesvol naar het doel zonder botsingen of constraint-overtredingen.
   • Zowel NN als HardNet botsten met obstakels als gevolg van constraint-overtredingen.
   • Cruciaal leidde a posteriori handhaving (het toepassen van projectie alleen na het trainen) ertoe dat de robot vastliep, wat de noodzaak aantoont van gezamenlijke optimalisatie tussen de netwerkparameters en de projectielaag.

Betekenis en Claims

Het artikel stelt dat CAffNet een fundamentele open uitdaging adresseert bij het inzetten van neuronale netwerken in veiligheidskritieke systemen: het gelijktijdig garanderen van benaderingsnauwkeurigheid en bewijsbare constraint-voldoening.

• Formele Garanties: In tegenstelling tot strafbasiemethoden biedt CAffNet wiskundige garanties dat outputs aan constraints zullen voldoen voor alle inputs, mits de haalbare verzameling niet-leeg is.
• Architecturale Veerkracht: Het framework is compatibel met standaardarchitecturen (feedforward NN's en Transformers) en beperkt de dimensionaliteit van de constraint-ruimte niet ten opzichte van de output.
• Optimaliteit: Door het gezamenlijk trainen van het netwerk en de projectielaag, vindt CAffNet optimale haalbare oplossingen, terwijl nabewerkingsmethoden kunnen leiden tot suboptimale prestaties of onhaalbaarheid.

De auteurs concluderen dat hoewel het framework sterke garanties biedt onder de gestelde aannames, het inherent geen volledigheid van de constraints of de nauwkeurigheid van het systeemmodel waarborgt. Daarom blijven onafhankelijke validatie en domeinspecifieke veiligheidsanalyse noodzakelijk voor inzet in real-world veiligheidskritieke toepassingen. Toekomstig werk is gericht op het uitbreiden van het framework naar niet-affiene constraints en het valideren van prestaties op fysieke robotplatforms.