Technische Samenvatting: Generator-Aligned Representation Interfaces voor Diagnostische Zachte Equivariantie

1. Probleemstelling

Bestaande equivariante architecturen (bijv. Group CNN's, Steerable Networks, SE(3)-Transformers) dwingen exacte equivariantie af door specifieke groepsacties direct in hun operatoren te coderen. Hoewel dit sterke theoretische garanties biedt, creëert het een "ontwerpstijfheid" waarbij het aanpassen aan een nieuwe groep, een generieke backbone of een andere datamodaliteit vereist dat de operator en de representatiestructuur simultaan opnieuw worden ontworpen. Omgekeerd bieden moderne generieke sequentie-backbones (bijv. Transformers, State-Space Models) een hoge draagbaarheid over modaliteiten heen (afbeeldingen, genomics, puntenwolken), maar missen zij inherente mechanismen om te waarborgen dat inputtransformaties corresponderende transformaties in de interne representatie induceren.

Dit artikel identificeert een integratiekloof: Hoe kan groepsstructuur worden blootgesteld aan een generieke backbone zonder elke laag als een hard-equivariante operator te herontwerpen? De auteurs stellen dat het afdwingen van exacte equivariantie in elke laag vaak onnodig en restrictief is, en stellen in plaats daarvan een diagnostische aanpak voor om "zachte equivariantie" te leren.

2. Methodologie: Generator-Aligned Representation Interface (GARI)

Het artikel introduceert GARI, een representatie-niveau ontwerpprincipe dat geselecteerde transformatiegeneratoren blootstelt aan een generieke sequentie-backbone via uitgelijnde views. In plaats van de groepswet hard te coderen in operatoren, construeert GARI een trainbare interface die de generatorstructuur zichtbaar, leerbaar en meetbaar maakt.

Kerncomponenten

Het framework wordt geïnstantieerd als GARI-Net, een sequentie-gebaseerd model met de volgende architecturale kenmerken:

1. Generator-Geïndexeerde Streams: Voor een set blootgestelde generatoren $S = \{s_1, \dots, s_q\}$ construeert het model $q+1$ streams: één canonieke stream ($P_\theta(x)$) en $q$ generator-geïnduceerde streams ($\rho_{s_j}P_\theta(x)$). Deze streams representeren de input in verschillende transformatie-uitgelijnde kaders.
2. Shared Backbone Processing: Alle streams worden verwerkt door een gedeelde sequentie-backbone (bijv. Mamba2, Transformer) met gedeelde parameters. Dit zorgt ervoor dat het model een consistente functiefamilie leert over de views heen, in plaats van een ensemble van onafhankelijke netwerken.
3. Frame Conversie en Context Reparatie:
   • ODBC (One-dimensional Backward Convolution): Toegepast op elke stream om lokale context-mismatches te repareren die worden veroorzaakt door re-indexering (bijv. sequentie-reversie), met name voor directionele of autoregressieve operatoren.
   • Directional Frame Conversion: Streams worden tijdelijk geconverteerd van het canonieke interactiekader naar generator-specifieke verwerkingskaders en weer terug, om uitlijning te garanderen vóór cross-stream interactie.
4. Cross-Stream Interactie: Een "leave-one-out" aandachtmechanisme stelt elke stream in staat om de andere streams te observeren (attenden), wat de uitwisseling van bewijs tussen de canonieke en de generator-uitgelijnde views mogelijk maakt zonder hen als onafhankelijke netwerken te behandelen.
5. Discrepancy-Aware Fusie: De terminal fusieblok vermijdt blinde middeling. In plaats daarvan gebruikt het een pairwise-discrepancy signaal (dat de onenigheid tussen streams meet) en een stream-sum signaal om de aggregatie te wegen. Dit stelt het model in staat om te reageren op inter-stream onenigheid, waardoor informatieve variaties behouden blijven.

Diagnostisch Framework: Zachte Equivariantie en DEE

Het artikel herdefinieert het doel van exacte equivariantie naar zachte equivariantie, gemeten door de residuele fout van de transformatierelatie onder specifieke data- en transformatiedistributies.

• Soft Equivariance Residual: Gedefinieerd als de verwachte gekwadrateerde afstand tussen de representatie van een getransformeerde input en de voorgeschreven transformatie van de canonieke representatie: $E_{\mu,\nu} = E[\Delta(F(\alpha_g x), \tau_g F(x))^2]$.
• Direct Equivariance Error (DEE): Een eindige-probe diagnostische metriek berekend op bevroren checkpoints. Het vergelijkt de representatie van een getransformeerde input met de voorgeschreven transformatie van de canonieke representatie met behulp van bekende token- of voxel-re-indexering. DEE is geen trainingsverlies, maar een post-hoc diagnostiek om representatie-consistentie te meten.
• Residual Localization: Het framework deelt de totale fout op in drie gelokaliseerde bronnen:
  1. Interface Residual: Mismatch bij het converteren van getransformeerde data naar geïndexeerde representaties.
  2. Stream Residual: Incompatibiliteit in de gedeelde backbone-verwerking.
  3. Fusion Residual: Mismatch bij het aggregeren van meerdere views.

3. Belangrijkste Bijdragen

1. Generator-Aligned Representation Interfaces (GARI): Een modaliteit-agnostisch ontwerp-primitief dat de eenheid van symmetrie-ontwerp verschuift van een groep-gespecialiseerde operator naar een herbruikbare interface. Het stelt de generatorstructuur bloot aan generieke backbones via uitgelijnde canonieke en getransformeerde views.
2. Residual-gebaseerde Zachte Equivariantie en Eindige Meting: De auteurs definiëren zachte equivariantie via het residu van de transformatierelatie en instantiëren de eindige-probe schatting ervan als Direct Equivariance Error (DEE). Zij maken een onderscheid tussen taak-robuustheid en exacte certificering.
3. GARI-Net Realisatie: Een concrete sequentie-model implementatie bestaande uit generator-geïndexeerde streams, gedeelde verwerking, ordeningsbewuste context-reparatie, cross-stream interactie en discrepancy-bewuste fusie.
4. Cross-Domein Bewijs: Het interface-principe wordt gevalideerd over drie verschillende domeinen: genomische sequenties (reversie), 2D-afbeeldingen (planair rotatie) en 3D-puntenwolken (axiale SO(3) transfer).

4. Experimentele Resultaten

De experimenten zijn ontworpen als een diagnostische keten om het interface-principe te testen onder gecontroleerde, uit de training gehouden transformaties, in plaats van het vaststellen van een universele SOTA-leaderboard.

• Genomische Sequenties (GenomicBenchmarks):
  • Taak: Sequentie-reversie ($Z_2$).
  • Resultaat: GARI-Net behaalde de hoogste gemiddelde nauwkeurigheid op gereverseerde inputs (0.627) vergeleken met Caduceus-PH (0.612) en Caduceus-PS (0.610), ondanks een iets lagere nauwkeurigheid op normale inputs. Dit demonstreert dat de generator-uitgelijnde interface taakrelevante informatie onder sequentie-reversie beter behoudt zonder te trainen op gereverseerde samples.
• Planaire Afbeeldingen (ImageNet-1K & MNIST):
  • Taak: Cyclische rotaties ($C_2$ en $C_4$).
  • Resultaat: Op ImageNet-1K verbeterde GARI-Net-C4 de pure-generalisatie rotatie-nauwkeurigheid (hoeken buiten de training-augmentatie) met 1.34 procentpunt ten opzichte van een gematchte Vision Mamba baseline. Het verminderde de C4 DEE van 0.983 naar 0.831. Op MNIST presteerde bredere $C_4$ generator-dekking beter dan $C_2$ configuraties op gesamplede-orbit generalisatie, wat de orbit-gemiddelde nauwkeurigheid met 2.61 punten verbeterde.
• 3D Puntenwolken (ModelNet40):
  • Taak: Gecontroleerde axiale transfer ($SO(3)$).
  • Resultaat: Het versterken van de $x/y$-as interface van $C_2$ naar $C_4$ verhoogde de helder-gehouden $z$-as nauwkeurigheid met 8.97 punten met minimale verandering in de 'clean' nauwkeurigheid. Een expliciete $x/y/z$ referentie voegde slechts 0.51 punten toe, wat de primaire winst lokaliseert naar de transfer via de versterkte $x/y$ interface in plaats van expliciete $z$-as blootstelling.

5. Betekenis en Claims

Het artikel positioneert GARI als een draagbare, diagnostische aanvulling op hard-equivariante architecturen, niet als een vervanging.

• Bescheidenheid van Claims: De auteurs stellen expliciet dat hun bevindingen eindig en distributie-afhankelijk zijn. Zij certificeren geen exacte equivariantie over een continue groep, noch beweren zij dat transformatie-robuustheid gelijk is aan equivariantie.
• Kernwaarde: De betekenis ligt in het maken van de generatorstructuur toegankelijk, leerbaar en meetbaar binnen generieke neurale modellen. Het biedt een route om de Lie-groep generatorstructuur bloot te leggen aan algemene sequentiemodellen zonder de computationele en architecturale overhead van het herontwerpen van operatoren voor elke nieuwe groep of modaliteit.
• Diagnostisch Karakter: Het framework biedt een "weerlegbaar" contract. Als de interface de nauwkeurigheid of DEE op verklaarde probes niet verbetert, wordt de claim van zachte equivariantie verzwakt. Het artikel demonstreert dat deze interface taakrelevante transformatie-consistentie en generalisatie naar helder-gehouden probes ondersteunt zonder dat een groep-specifieke redesign van de backbone vereist is.

Samenvattend biedt GARI een flexibel architecturaal patroon dat de kloof overbrugt tussen de rigiditeit van hard-equivariante operatoren en de draagbaarheid van generieke sequentiemodellen, gevalideerd door een rigoureus diagnostisch protocol van representatie-residuen en helder-gehouden taakprestaties.