SharpNet: Enhancing MLPs to Represent Functions with Controlled Non-differentiability

Technische Samenvatting: SharpNet

Probleemstelling
Multi-layer perceptrons (MLP's) zijn standaardinstrumenten voor functiebenadering en geometrische representatie (bijv. Neural Signed Distance Functions in NeRF's en SDF's). Echter, standaard MLP's met gladde activatiefuncties produceren globaal gladde ($C^\infty$) outputs, terwijl ReLU-gebaseerde MLP's slechts stuksgewijs lineair zijn ($C^0$), maar een gebrek hebben aan precieze controle over de locatie van niet-differentieerbaarheid. Deze beperking maakt het bestaande methoden moeilijk om functies te representeren die continu zijn, maar wel intentionele gradiënt-discontinuïteiten (scherpe randen, hoeken of mediale assen) bezitten op specifieke, door de gebruiker gedefinieerde of leerbare locaties. Bestaande benaderingen, zoals grid-gebaseerde methoden (InstantNGP) of patch-subdivisie methoden (NH-Rep), introduceren vaak artefacten, grid-gealigneerde artefacten, of falen bij het afhandelen van open (niet-gesloten) scherpe kenmerken en complexe topologieën.

Methodologie
De auteurs stellen SharpNet voor, een MLP-architectuur ontworpen om functies te representeren die bijna overal glad zijn, maar gecontroleerde niet-differentieerbaarheid ($C^0$-continuïteit met gradiënt-sprongen) vertonen op voorgeschreven locaties.

1. Kenmerkfunctie via de Poisson-vergelijking:
   SharpNet breidt de standaard MLP-input uit met een hulp-kenmerkfunctie, $f: \Omega \to \mathbb{R}$. Deze functie wordt gedefinieerd als de oplossing van de Poisson-vergelijking met jump Neumann-randvoorwaarden op een kenmerkenset $M$ (een curve in 2D of een oppervlak in 3D):

   • $\nabla^2 f(x) = h(x)$ voor $x \in \Omega \setminus M$.
   • Continuïteitsvoorwaarde: $f$ is continu over $M$.
   • Sprongvoorwaarde: De normale afgeleide van $f$ vertoont een sprongdiscontinuïteit over $M$.

   Gebruikmakend van de derde identiteit van Green, wordt de oplossing uitgedrukt als een randintegraal met betrekking tot de Green-functie van de Laplaciaan. Voor computationele efficiëntie vereenvoudigen de auteurs dit door $h(x)=0$ en de sprongamplitude 1 te stellen, waardoor de kenmerkfunctie wordt gereduceerd tot een integraal van de Green-functie over de kenmerkenset $M$.

2. Lokalisatie en Versnelling:
   Om de hoge kosten van globale integratie te vermijden, introduceren de auteurs een mollifier (een gladde, compact ondersteunde functie). Dit stelt hen in staat de globale integraal te deconstrueren tot een som van lokale integralen. De kenmerkfunctie wordt berekend als een gewogen som van lokale bijdragen, wat ervoor zorgt dat de functie $C^0$ blijft op $M$ en $C^\infty$ elders. Deze formulering is volledig differentieerbaar met betrekking tot de geometrie van $M$, wat gezamenlijke optimalisatie mogelijk maakt.

3. Netwerkarchitectuur en Compositie:
   Het uiteindelijke netwerk wordt gedefinieerd als $\Phi_\theta(x, f(x))$, waarbij $x$ ruimtelijke coördinaten zijn en $f(x)$ de hulp-kenmerk is. Theoretische analyse (Theorem 3.1) bevestigt dat als het netwerk lokaal gevoelig is voor het kenmerkkanaal (d.w.z. $\partial \Phi / \partial f \neq 0$), de niet-differentieerbaarheid van $f$ wordt overgedragen naar de output.

   Om complexe geometrieën te verwerken waarbij de amplitude van de gradiëntsprong abrupt verandert (bijv. bij knooppunten van scherpe randen), wordt de kenmerkenset $M$ gepartitioneerd in disjuncte deelverzamelingen $\{M^{(i)}\}$. Elke deelverzameling is geassocieerd met een afzonderlijke kenmerkfunctie $f^{(i)}$. De netwerkinput concateneert deze meerdere kenmerkfuncties, waardoor het model een stuksgewijs variërende directionele afgeleide-sprongen kan representeren.

4. Optimalisatie:
   Het framework ondersteunt twee modi:

   • Vaste Kenmerken: Wanneer de kenmerkgeometrie $M$ bekend is (bijv. van een mesh), wordt $f$ behandeld als een vaste prior.
   • Leerbare Kenmerken: Wanneer $M$ onbekend is, worden de parameters die de geometrie van $M$ definiëren gezamenlijk geoptimaliseerd met de MLP-gewichten $\theta$. De differentieerbaarheid van de kenmerkfunctie met betrekking tot $M$ maakt end-to-end leren van de locaties van de scherpe kenmerken mogelijk.

Belangrijkste Bijdragen

• Gecontroleerde Niet-differentieerbaarheid: SharpNet biedt een principiële manier om $C^0$-continuïteit met gradiëntdiscontinuïteiten af te dwingen op specifieke, door de gebruiker gespecificeerde of leerbare locaties, waarmee de beperking van globale gladheid van standaard MLP's wordt overwonnen.
• Meshless Formulering: In tegenstelling tot patch-gebaseerde of grid-gebaseerde methoden, vereist SharpNet geen domein-subdivisie of mesh-partitionering. Het kan open (niet-gesloten) scherpe randen en complexe topologieën representeren zonder de topologische beperkingen van CSG-bomen of patch-intersecties.
• Leerbare Kenmerkgeometrie: De methode introduceert een differentieerbare kenmerkfunctie gebaseerd op de Poisson-vergelijking, waardoor de locaties van de scherpe kenmerken zelf geleerd kunnen worden uit data (bijv. puntenwolken) zonder dat voorafgaande segmentatie nodig is.
• Efficiënte Evaluatie: Het gebruik van mollifiers en gesloten vorm Green-functie integralen op lijnsegmenten/driehoeken maakt efficiënte lokale evaluatie mogelijk, wat de schaalbaarheid van de aanpak voor 3D-reconstructie vergroot.

Resultaten
De auteurs valideren SharpNet op 2D afstandsveld-fitting en 3D CAD-reconstructie taken:

• 2D Experimenten: In geodesic distance fitting en medial axis learning, herstelt SharpNet (met gebruik van Softplus activatie) accuraat scherpe transities en mediale assen. Het presteert beter dan standaard MLP's (die overmatig gladstrijken), ReLU-gebaseerde MLP's (die spookachtige kreukels introduceren) en InstantNGP (die grid-gealigneerde artefacten produceert).
• 3D CAD Reconstructie:
  • Van Meshes: SharpNet reconstrueert modellen met scherpe randen nauwkeuriger dan NH-Rep, met name voor open scherpe curven en hoog-genus vormen waar NH-Rep faalt door de beperkingen van patch-subdivisie.
  • Van Georiënteerde Punten: SharpNet overtreft InstantNGP en SIREN in Chamfer Distance (CD), Hausdorff Distance (HD) en Normal Error (NE, doorgaans bedoeld als fout in normalen), en herstelt effectief scherpe randen zonder grid-artefacten.
  • Van Ruwe Punten: In afwezigheid van normale-supervisie presteert SharpNet beter dan NeurCADRecon en SIREN, wat robuustheid demonstreert in het leren van zowel geometrie als scherpe kenmerken uit ongeoriënteerde puntenwolken.
• Kwantitatieve Metrieken: Over alle datasets (100 CAD-modellen) behaalt SharpNet consistent lagere CD, HD en NE, en hogere F-1 scores vergeleken met state-of-the-art baselines.

Betekenis en Claims
Het artikel claimt dat SharpNet een flexibel en precies alternatief biedt voor bestaande neurale veld-representaties voor geometrie met scherpe kenmerken. Door gebruik te maken van klassieke PDE-theorie (Poisson-vergelijking met jump Neumann-randvoorwaarden) en Green-functies, overbrugt het de kloof tussen gladde neurale benaderingen en de noodzaak voor scherpe geometrische getrouwheid. De auteurs benadrukken dat hun methode voorkomt dat scherpte "lekt" naar onbedoelde regio's (een probleem bij mesh-gebaseerde of grid-gebaseerde interpolatie) en ondersteunt het gezamenlijk leren van de kenmerkgeometrie, waardoor het toepasbaar is in scenario's waarin de scherpe kenmerken niet a priori bekend zijn. Het werk positioneert SharpNet als een superieur fundament voor impliciete CAD-reconstructie, in staat om complexe, open en hoog-genus structuren te verwerken die huidige patch-gebaseerde of grid-gebaseerde benaderingen uitdagen.