FeatExtractNet: Point Cloud-Enhanced Architecture for Thermal and Acoustic FieldPrediction

Technische Samenvatting: FeatExtractNet

Probleemstelling
Deep learning is een levensvatbaar alternatief geworden voor traditionele numerieke methoden (CFD, FEM) voor het voorspellen van fysieke velden, waarbij nagenoeg instantane inferentie wordt geboden door mappingen van ruimtelijke coördinaten naar fysieke grootheden te leren. Bestaande gesuperviseerde benaderingen kampen echter met aanzienlijke knelpunten bij de toepassing op complexe thermische en akoestische velden. Standaard volledig verbonden (fully-connected) architecturen falen vaak in het coderen van de geometrische kenmerken van onregelmatige domeinen, wat leidt tot een gebrekkige capture van ruimtelijke correlatie. Bovendien hebben bestaande methoden moeite met multi-scale fysieke kenmerken, waarbij fijne lokale details en globale structurele informatie vaak wederzijds beperkt zijn. Hoewel neurale operatoren zoals FNO goed presteren op regelmatige roosters, neemt hun effectiviteit af op ongestructureerde meshes en complexe grenzen die gebruikelijk zijn bij thermisch-akoestische koppeling. Daarnaast vertrouwen huidige op puntenwolken gebaseerde fysica-methoden (bijv. PIPN, MPIPN) vaak op single-scale globale kenmerken via max-pooling, wat complexe ruimtelijke distributies oversimplificeert en een gebrek heeft aan adaptieve mechanismen voor feature fusie.

Methodologie
Het artikel stelt FeatExtractNet voor, een door puntenwolken verbeterde neurale architectuur die is ontworpen met een domein-adaptieve strategie om de onderscheidende geometrische en fysieke vereisten van thermische en akoestische velden aan te pakken.

1. Thermische Veldarchitectuur (Onregelmatige Geometrieën):
   Voor thermische velden gedefinieerd op onregelmatige geometrieën (gerepresenteerd als puntenwolken van 5.000–25.000 punten), gebruiken de auteurs een PointNet-stijl framework dat is versterkt met drie kernmodules:

   • Multi-Level Local Feature Extraction (MLFE): In plaats van single-scale extractie, maakt het netwerk gebruik van een drietraps cascade van 1D convolutionele lagen (64 $\to$ 128 $\to$ 256 dimensies) om hiërarchische kenmerken te vangen van laag-niveau coördinaten naar hoog-niveau abstracties.
   • Tri-Statistical Global Descriptor: Om de beperkingen van single max-pooling te overwinnen, aggregeert de architectuur een globale contextvector door max-, gemiddelde- en variantie-pooling statistieken ($[f_{max}; f_{avg}; f_{var}]$ van de high-level feature map te concateneren).
   • Cross-Layer Gated Fusion (CGF): Een leerbaar sigmoid-gated mechanisme mengt dynamisch lokale kenmerken met de uitgebreide globale context op elk ruimtelijk punt. Dit stelt het netwerk in staat om lokale geometrische details adaptief te wegen tegen globale fysieke informatie, waardoor gradiëntpathologieën die vaak voorkomen bij physics-informed training worden gemitigeerd.

2. Akoestische Veldarchitectuur (Dichte Regelmatige Roosters):
   Voor dichte, regelmatige rooster-akoestische data (641.601 punten) hanteren de auteurs een Fourier Feature Residual MLP. Dit ontwerp voorkomt de gradiëntattenuatie die zou resulteren uit globale pooling op dergelijke grote datasets. Het netwerk codeert $(x, y)$ coördinaten met behulp van sinusvormige feature expansie (Fourier-features) over 16 frequentieniveaus, gevolgd door residual blocks, om hoogfrequente golfstructuren effectief te vangen.

Belangrijkste Bijdragen

• Gespecialiseerde Puntenwolk Representatie: Een module ontworpen voor enkelvoudige onregelmatige geometrieën die domeingeometrie en randkenmerken codeert om fijnmazige ruimtelijke correlatie-leren te faciliteren.
• Multi-Scale Feature Learning Mechanisme: De integratie van een drietraps lokale feature extractor met een cross-layer gated fusion mechanisme. Dit adresseert de inefficiëntie van bestaande puntenwolk- en volledig verbonden architecturen bij het fuseren van multi-scale kenmerken zonder redundantie.
• Domein-Adaptief Framework: Een verenigde aanpak die een PointNet-stijl architectuur met MLFE+CGF toepast voor onregelmatige thermische puntenwolken, terwijl een Fourier feature MLP wordt gebruikt voor dichte akoestische roosters. Dit behoudt een gedeeld conceptueel kader (coördinaat-naar-veld regressie) terwijl de architectuur wordt afgestemd op specifieke datakenmerken.
• Efficiëntie van Gesuperviseerd Leren: Het framework bereikt een hoge nauwkeurigheid onder pure gesuperviseerde leeromstandigheden, wat aantoont dat verbeterde feature extractie op hoogwaardige referentiedata de nauwkeurigheid van physics-constrained methoden kan evenaren of overtreffen zonder de bijbehorende trainingsinstabiliteit.

Experimentele Resultaten
Het framework werd gevalideerd op 2D steady-state incompressibele fluïdum-thermische koppelingsvelden en akoestische velden onder pure gesuperviseerde leeromstandigheden.

• Prestaties van het Thermische Veld: Vergeleken met de MPIPN baseline bereikte FeatExtractNet een reductie van 54,1% in relatieve $L_2$ fout voor de snelheidcomponent $u$ (0,0613 vs. 0,1336) en een reductie van 46,4% voor de snelheidcomponent $v$ (0,0605 vs. 0,1128). De prestaties op druk ($p$) en temperatuur ($T$) bleven competitief, met fouten van respectievelijk 0,0601 en 0,0596.
• Prestaties van het Akoestische Veld: Het model bereikte een relatieve $L_2$ fout van 0,0543 voor de totale geluidsdruk ($p_{total}$), wat een reductie van 65,3% vertegenwoordigt ten opzichte van MPIPN (0,1567).
• Generalisatie: Tests voor cross-geometrie generalisatie (5-fold leave-one-geometry-out) toonden consistente prestaties met lage standaarddeviaties, hoewel de fouten moderat hoger waren dan bij binnen-geometrie interpolatie, zoals verwacht voor ongeziene configuraties.
• Ablatie-studies: Experimenten verifieerden de bijdrage van het volledige model en een parameter-gematchte CGF-variant. Resultaten voor MLFE-alleen en standaard CGF-alleen varianten werden geprojecteerd op basis van moduleproporties geobserveerd in geverifieerde experimenten in plaats van bevestigd door dedicated training runs; deze projecties suggereren dat geen van beide modules alleen wordt verwacht de prestaties van het volledige model te behalen.

Betekenis en Claims
Het artikel claimt dat FeatExtractNet effectief het knelpunt van inadequate feature extractie in fysieke veldvoorspelling overwint door geavanceerde puntenwolkverwerking te combineren met multi-scale leren. De primaire betekenis ligt in het aantonen dat een domein-adaptief ontwerp zowel onregelmatige thermische geometrieën als dichte akoestische roosters binnen een verenigd paradigma kan afhandelen. De auteurs benadrukken dat deze resultaten werden behaald via pure gesuperviseerd leren, wat suggereert dat het optimaliseren van het feature extractieproces zelf een krachtige strategie is voor het verbeteren van voorspellingsnauwkeurigheid, wat potentieel de convergentieproblemen bij PDE-residuele minimalisatie in physics-informed benaderingen vermijdt. Het werk biedt ook een structurele basis voor toekomstige physics-informed training, door een Navier-Stokes beperkte formulering aan te bieden voor potentiële integratie.

Beperkingen
De auteurs erkennen verschillende beperkingen: de huidige formulering is beperkt tot 2D steady-state problemen; de Fourier feature MLP heeft een begrensde frequentiebandbreedte die geschikt is voor de geteste akoestische frequenties, maar mogelijk uitbreiding vereist voor hogere frequenties; het thermische model gaat uit van de Boussinesq-benadering; en de cross-geometrie validatie werd uitgevoerd op een subset van beschikbare geometrieën (5 van de 135), wat de statistische kracht van de generalisatieclaims beperkt. Daarnaast blijft de mechanistische interpretatie van hoe gating-gewichten correleren met fysieke grootheden een open gebied voor toekomstig onderzoek.