SharpNet: Enhancing MLPs to Represent Functions with Controlled Non-differentiability

Sintesi Tecnica: SharpNet

Problema
I multi-layer perceptrons (MLP) sono strumenti standard per l'approssimazione di funzioni e la rappresentazione geometrica (ad esempio, le Neural Signed Distance Functions in NeRF e SDF). Tuttavia, gli MLP standard con funzioni di attivazione lisce producono output globalmente lisci ($C^\infty$), mentre gli MLP basati su ReLU sono solo piecewise linear ($C^0$) ma mancano di un controllo preciso sulla localizzazione della non-differenziabilità. Questa limitazione rende difficile per i metodi esistenti rappresentare funzioni che siano continue ma che possiedano discontinuità del gradiente intenzionali (spigoli vivi, angoli o assi mediali) in posizioni specifiche, definite dall'utente o apprendibili. Gli approcci esistenti, come i metodi basati su griglia (InstantNGP) o i metodi di suddivisione dei patch (NH-Rep), spesso introducono artefatti, artefatti allineati alla griglia o non riescono a gestire feature nitide aperte (non chiuse) e topologie complesse.

Metodologia
Gli autori propongono SharpNet, un'architettura MLP progettata per rappresentare funzioni che sono lisce quasi ovunque ma che esibiscono una non-differenziabilità controllata ($C^0$ continuity con salti di gradiente) in posizioni prescritte.

1. Funzione di Feature tramite l'Equazione di Poisson:
   SharpNet aumenta l'input standard dell'MLP con una funzione di feature ausiliaria, $f: \Omega \to \mathbb{R}$. Questa funzione è definita come la soluzione dell'equazione di Poisson con condizioni al contorno di Neumann a salto su un insieme di feature $M$ (una curva in 2D o una superficie in 3D):

   • $\nabla^2 f(x) = h(x)$ per $x \in \Omega \setminus M$.
   • Condizione di continuità: $f$ è continua attraverso $M$.
   • Condizione di salto: la derivata normale di $f$ presenta una discontinuità di salto attraverso $M$.

   Utilizzando l'identità di Green al terzo, la soluzione è espressa come un integrale di contorno che coinvolge la funzione Green del Laplaciano. Per efficienza computazionale, gli autori semplificano questo passaggio impostando $h(x)=0$ e la magnitudo del salto a 1, riducendo la funzione di feature a un integrale della funzione Green sulla feature set $M$.

2. Localizzazione e Accelerazione:
   Per evitare l'alto costo dell'integrazione globale, gli autori introducono un mollificatore (una funzione liscia a supporto compatto). Ciò consente di decomporre l'integrale globale in una somma di integrali locali. La funzione di feature viene calcolata come una somma pesata di contributi locali, garantendo che la funzione rimanga $C^0$ su $M$ e $C^\infty$ altrove. Questa formulazione è pienamente differenziabile rispetto alla geometria di $M$, consentendo l'ottimizzazione congiunta.

3. Architettura della Rete e Composizione:
   La rete finale è definita come $\Phi_\theta(x, f(x))$, dove $x$ sono le coordinate spaziali e $f(x)$ è la feature ausiliaria. L'analisi teorica (Teorema 3.1) conferma che se la rete è localmente sensibile al canale di feature (ovvero $\partial \Phi / \partial f \neq 0$), la non-differenziabilità di $f$ viene trasferita all'output.

   Per gestire geometrie complesse dove la magnitudo del salto del gradiente cambia bruscamente (ad esempio, alle giunzioni di spigoli vivi), il set di feature $M$ viene partizionato in sottoinsiemi disgiunti $\{M^{(i)}\}$. Ogni sottoinsieme è associato a una distinta funzione di feature $f^{(i)}$. L'input della rete concatena queste molteplici funzioni di feature, permettendo al modello di rappresentare salti della derivata direzionale a variazione piecewise.

4. Ottimizzazione:
   Il framework supporta due modalità:

   • Feature Fisse: Quando la geometria della feature $M$ è nota (ad esempio, da un mesh), $f$ è trattata come un prior fisso.
   • Feature Apprendibili: Quando $M$ è ignota, i parametri che definiscono la geometria di $M$ sono ottimizzati congiuntamente con i pesi dell'MLP $\theta$. La differenziabilità della funzione di feature rispetto a $M$ consente l'apprendimento end-to-end delle posizioni delle feature nitide.

Contributi Chiave

• Non-differenziabilità Controllata: SharpNet fornisce un modo principato per imporre la continuità $C^0$ con discontinuità del gradiente in posizioni specifiche, definite dall'utente o apprendibili, superando il limite della liscezza globale degli MLP standard.
• Formulazione Meshless: A differenza dei metodi basati su patch o griglia, SharpNet non richiede la suddivisione del dominio o la partizione del mesh. Può rappresentare spigoli vivi aperti (non chiusi) e topologie complesse senza i vincoli topologici di alberi CSG o intersezioni di patch.
• Geometria delle Feature Apprendibile: Il metodo introduce una funzione di feature differenziabile basata sull'equazione di Poisson, permettendo alle posizioni delle feature nitide di essere apprese dai dati (ad esempio, nuvole di punti) senza richiedere una pre-segmentazione.
• Valutazione Efficiente: L'uso di mollificatori e integrali della funzione Green in forma chiusa su segmenti di linea/triangoli consente una valutazione locale efficiente, rendendo l'approccio scalabile per la ricostruzione 3D.

Risultati
Gli autori validano SharpNet su compiti di fitting di campi di distanza 2D e ricostruzione CAD 3D:

• Esperimenti 2D: Nel fitting della distanza geodetica e nell'apprendimento dell'asse mediale, SharpNet (usando l'attivazione Softplus) recupera accuratamente le transizioni nette e gli assi mediali. Supera gli MLP standard (che sovra-lisciano), gli MLP basati su ReLU (che introducono pieghe spurie) e InstantNGP (che produce artefatti allineati alla griglia).
• Ricostruzione CAD 3D:
  • Da Mesh: SharpNet ricostruisce i modelli con spigoli vivi più accuratamente di NH-Rep, particolarmente per curve nitide aperte e forme ad alta genere dove NH-Rep fallisce a causa dei limiti della suddivisione in patch.
  • Da Punti Orientati: SharpNet supera InstantNGP e SIREN in Chamfer Distance (CD), Hausdorff Distance (HD) e Normal Error (NE), recuperando efficacemente gli spigoli vivi senza artefatti di griglia.
  • Da Punti Raw: In assenza di supervisione delle normali, SharpNet supera NeurCADRecon e SIREN, dimostrando robustezza nell'apprendere sia la geometria che le feature nitide da nuvole di punti non orientate.
• Metriche Quantitative: Su tutti i dataset (100 modelli CAD), SharpNet ottiene costantemente valori inferiori di CD, HD e NE, e punteggi F-1 più alti rispetto ai baseline allo stato dell'arte.

Significato e Rivendicazioni
L'articolo afferma che SharpNet offre un'alternativa flessibile e precisa alle rappresentazioni neurali esistenti per geometrie con feature nitide. Sfruttando la teoria delle PDE classiche (equazione di Poisson con condizioni di Neumann a salto) e le funzioni Green, colma il divario tra approssimazioni neurali lisce e la necessità di fedeltà geometrica nitida. Gli autori sottolineano che il loro metodo evita la "dispersione" della nitidezza in regioni non volute (un problema nelle interpolazioni basate su mesh o griglia) e supporta l'apprendimento congiunto della geometria delle feature, rendendolo applicabile a scenari in cui le feature nitide non sono note a priori. Questo lavoro posiziona SharpNet come un backbone superiore per la ricostruzione implicita di CAD, capace di gestire strutture complesse, aperte e ad alta genere che mettono in difficoltà gli attuali approcci basati su patch o griglia.