Technische Samenvatting: AeroJEPA

Probleemstelling

Aerodynamisch ontwerp is steeds meer afhankelijk van "many-query"-regimes waarin ingenieurs herhaaldelijk hoogdimensionale stromingsvelden moeten evalueren over enorme ruimten van geometrieën en bedrijfsomstandigheden. Hoewel hoogwaardige Computational Fluid Dynamics (CFD) de gouden standaard blijft, verhindert de rekenkosten directe optimalisatie en snelle iteratie. Bestaande neurale surrogate-modellen proberen dit aan te pakken, maar staan voor twee kritieke beperkingen in realistische 3D-aerodynamica:

1. Schaalbaarheid: Veel benaderingen zijn geoptimaliseerd voor directe veldvoorspelling op vaste discretisaties, waardoor ze moeilijk schaalbaar zijn naar de enorme outputgroottes (bijvoorbeeld tientallen miljoenen punten) die voorkomen in hoogwaardige grenslaagsimulaties.
2. Gebrek aan Semantische Structuur: Zelfs accurate modellen falen vaak om latente representaties te produceren die direct bruikbaar zijn voor analyse of ontwerp. Ze voorspellen velden maar leveren geen latente variabelen die duidelijk zijn uitgelijnd met geometrie, bedrijfsomstandigheden of onderliggende fysica, wat hun bruikbaarheid voor wetenschappelijk begrip en op gradiënten gebaseerde ontwerpoptimalisatie belemmert.

Methodologie: AeroJEPA

De auteurs introduceren AeroJEPA, een Joint-Embedding Predictive Architecture die is toegespitst op 3D-aerodynamisch veldmodelleren. In tegenstelling tot traditionele surrogaten die geometrie direct afbeelden op hoogdimensionale stromingsvelden of auto-encoders die zich richten op pixel/voxel-reconstructie, werkt AeroJEPA binnen een geleerde, fysiek betekenisvolle latente ruimte.

Kernarchitectuur

Het raamwerk ontkoppelt geometrie-encoding, latente voorspelling en velddecoding via een getokeniseerde interface:

• Context Encoder ($E_c$): Beeldt het geometrische ontwerp (weergegeven als een ongestructureerde puntwolk van randvoorwaartepunten) en bedrijfsomstandigheden (bijvoorbeeld aanvalshoek, Reynoldsgetal, Machgetal) af op een set contexttokens van vaste grootte ($Z_c$).
• Target Encoder ($E_t$): Alleen gebruikt tijdens training, beeldt dit het grondwahrheid-vloeistofveld (onafhankelijk van de geometrie onderbemonsterd) af op doeltokens ($Z_t$).
• Predictor ($f^{pred}_\theta$): In plaats van het dichte veld direct te voorspellen, werkt de predictor volledig in de getokeniseerde latente ruimte. Hij neemt de contexttokens ($Z_c$) en bedrijfsomstandigheden ($c$) om de doelvloeistoftokens ($\hat{Z}_t$) te voorspellen. Deze formulering leert de afbeelding van geometrie-geconditioneerde tokens naar stromings-geconditioneerde tokens.
• Implicit Neural Representation (INR) Decoder ($f^{dec}_\phi$): Een optionele continue decoder die het fysieke vloeistofveld (snelheid, druk) reconstrueert op willekeurige ruimtelijke querypunten $q$ vanuit de voorspelde latente toestand $\hat{Z}_t$. Dit maakt resolutie-onafhankelijke output mogelijk zonder volumetrische meshing te vereisen.

Trainingsdoelen

AeroJEPA maakt gebruik van een gekoppeld trainingsworkflow om representatie-inzakking te voorkomen en fysieke geldigheid te waarborgen:

• Latent Matching Loss ($L_{lat}$): Stemt de voorspelde tokens ($\hat{Z}_t$) token-voor-token af op de doeltokens ($Z_t$).
• Reconstruction Loss ($L_{rec}$): Wanneer de decoder is opgenomen, minimaliseert deze de fout tussen het gedecodeerde veld en de grondwahrheid bij bemonsterde querypunten.
• SIGReg Regularisatie ($L_{sig}$): Een expliciete regularisator die wordt toegepast op de latente verdeling om inzakking te voorkomen en een goed verspreide embedding-ruimte te stimuleren, waardoor de behoefte aan Exponential Moving Average (EMA)-docenten of stop-gradient-heuristieken wordt vervangen.

De totale loss is een gewogen som: $L_{total} = \lambda_\ell L_{lat} + \lambda_r L_{rec} + \lambda_s L_{sig}$.

Belangrijkste Bijdragen

1. JEPA-stijl Voorspellende Latente Architectuur: Het artikel formuleert een nieuwe aanpak voor surrogate-modelleren die geometrie-geconditioneerde latente voorspelling combineert met een continue INR-decoder, waardoor het dure leerverplaatsingsprobleem wordt verplaatst van dichte veldvoorspelling naar gestructureerde latente voorspelling.
2. Semantisch Betekenisvolle Latente Ruimten: De auteurs tonen aan dat de geleerde latente ruimten niet louter beschrijvend zijn, maar structureel zijn uitgelijnd met ontwerptabelen en aerodynamische grootheden. Ondanks dat ze niet zijn getraind op geïntegreerde coëfficiënten (zoals $C_L$ of $C_D$) of specifieke ontwerpparameters, kunnen deze grootheden lineair worden hersteld uit de latente ruimte met hoge fideliteit.
3. Schaalbaarheid en Optimalisatie-Utility: De aanpak blijkt concurrerend voor veldvoorspelling terwijl deze van nature schaalt naar hoogresolutie-outputs. Bovendien maakt de gladde latente structuur een lichtgewicht, differentieerbare optimalisatieworkflow in de latente ruimte mogelijk, waarbij de noodzaak voor herhaalde mesh-manipulatie of volledige velddecoding tijdens de optimalisatielus wordt omzeild.

Experimentele Resultaten

De methode werd geëvalueerd op twee complementaire datasets: HiLiftAeroML (hoogwaardige, grootschalige grenslaagvelden op realistische hooglift-vliegtuigen) en SuperWing (brede generalisatie over een parametrische familie van transsonische vleugels).

• Surrogaatnauwkeurigheid: Op HiLiftAeroML presteerde AeroJEPA beter dan basismodellen (FigConvUNet, GeoTransolver, Transolver) in relatieve $L_2$- en $L_1$-fouten voor druk- en snelheidsvelden, terwijl het aanzienlijk lagere rekenkosten voor inferentie vereiste (bijvoorbeeld ~57 TFLOPs versus ~88–309 TFLOPs voor basismodellen). Het slaagde erin complexe gescheiden-stromingsstructuren op ongezette configuraties vast te leggen.
• Latente Structuur:
  • Probing: Lineaire probes herstelden hooglift-bedieningsvlakdeflecties uit contextlatenten met $R^2$-waarden tussen 0,965 en 0,988, en aerodynamische coëfficiënten ($C_L, C_D$) uit voorspelde latenten met respectievelijk $R^2$ van 0,930 en 0,996.
  • Interpolatie & Arithmetiek: De latente ruimte ondersteunde gecontroleerde interpolatie tussen bedrijfsomstandigheden en geometrische toestanden. Concept-vector-arithmetiek toonde aan dat flap- en slat-bedieningen bijna ontkoppeld waren (orthogonale deelruimten), terwijl binnenste/buitenste segmenten van hetzelfde oppervlak de verwachte fysieke koppeling vertoonden.
• Optimalisatie: Op SuperWing voerden de auteurs een proof-of-concept-optimalisatie uit om de aerodynamische efficiëntie ($C_L/C_D$) direct te maximaliseren in de 128-dimensionale context-late ruimte. De zoektocht convergeerde naar een ontwerppunt dat overeenkwam met een hoog-efficiënte vleugelconfiguratie (groot aspectverhouding, hoge sweep) die bestond binnen het enveloppe van de dataset, wat de bruikbaarheid van de latente ruimte voor ontwerponderzoek aantoont.

Betekenis en Claims

Het artikel stelt dat voorspellend latent leren een veelbelovende richting is voor aerodynamische surrogate-modelleren. De betekenis van AeroJEPA ligt in het vermogen om surrogaten te bieden die niet alleen schaalbaar en accuraat zijn, maar ook analyseerbaar en bruikbaar voor verkenning van de ontwerpruimte. Door voorspelling te ontkoppelen van ruimtelijke resolutie en de latente ruimte semantisch te organiseren, maakt de methode snelle ontwerpcycli en gecontroleerde doortochten door de ontwerpruimte mogelijk zonder de rekenkundige overhead van herhaalde hoogwaardige CFD-evaluaties.

De auteurs houden een bescheiden standpunt, waarbij zij opmerken dat de huidige studie beperkt is tot twee datasets en voornamelijk stationaire stromingsregimes. De optimalisatie en latente analyses worden gepresenteerd als proof-of-concept-demonstraties van semantische structuur in plaats van een complete, end-to-end industriële ontwerppijplijn. Toekomstig werk wordt geïdentificeerd als noodzakelijk om bredere stromingsregimes, nauwere integratie met inverse ontwerppijplijnen en onstabiele of multi-fidelity settings aan te pakken.