Herglotz-NET: Implicit Neural Representation of Spherical Data with Harmonic Positional Encoding

1. Problématique

La représentation et le traitement de données sur des domaines sphériques (comme la surface de la Terre ou les champs magnétiques) posent des défis uniques en raison de la courbure intrinsèque de la sphère. Les techniques classiques d'Euclidiennes, telles que les Représentations Neurales Implicites (INR) (ex: SIREN, NeRF), échouent souvent à capturer correctement cette géométrie.

• Limites des INR standards : Lorsqu'elles sont appliquées directement sur une sphère, les INR classiques génèrent des artefacts, notamment aux pôles, en raison de la singularité du système de coordonnées et de l'absence de prise en compte de la géométrie sphérique.
• Limites des approches existantes (SPH-SIREN) : Une solution précédente, SPH-SIREN, intègre les harmoniques sphériques (SH) dans le codage de position (PE). Cependant, cette méthode nécessite l'évaluation explicite (sous forme fermée ou récursive) d'une grande liste d'harmoniques sphériques. Cela devient computationnellement coûteux et numériquement instable pour les ordres élevés ($L > 25$), limitant ainsi l'évolutivité du modèle.

2. Méthodologie : Herglotz-NET (HNET)

Les auteurs proposent Herglotz-NET (HNET), une nouvelle architecture INR conçue spécifiquement pour les données sphériques, évitant l'évaluation explicite des harmoniques sphériques.

A. Encodage de Position Harmonique (Herglotz Mapping)

Au lieu d'utiliser des fonctions périodiques euclidiennes (sinus) ou des harmoniques sphériques explicites, HNET utilise une encodage de position basé sur les applications de Herglotz.

• Fondement théorique : Soit un vecteur complexe $a \in \mathbb{C}^3$ satisfaisant la condition de Herglotz ($a^\top a = 0$). La fonction $g(x) = \exp(\omega_0 a^\top x)$, restreinte à la sphère $S^2$, est une fonction harmonique (son laplacien s'annule).
• Générateur d'harmoniques : Cette fonction exponentielle agit comme une fonction génératrice pour toutes les harmoniques sphériques. Elle est centrée sur la partie réelle de $a$ et oscille selon la partie imaginaire, avec une fréquence contrôlée par $\omega_0$.
• Architecture du PE : Le codage de position $\psi$ est composé de $n$ neurones définis par :
  $$\psi_{A,w,b}(x) = \left\{ e^{\omega_0(w_i a_i^\top x + b_i)} \right\}_{i=1}^n$$
  où $a_i$ sont des vecteurs de Herglotz aléatoires, et $w_i, b_i$ sont des poids et biais appris.

B. Architecture du Réseau

• Le codage de position Herglotz est injecté dans un Perceptron Multicouche (MLP) utilisant des fonctions d'activation sinusoïdales (comme SIREN).
• Initialisation : Les vecteurs de Herglotz sont initialisés de manière aléatoire mais isotrope (uniforme sur la sphère et le plan orthogonal), garantissant qu'aucun neurone ne favorise un point ou une direction spécifique de la sphère en moyenne.

3. Contributions Clés

1. Nouvelle Architecture (HNET) : Introduction d'une INR pour la sphère qui remplace les évaluations explicites d'harmoniques sphériques par une exponentielle de mappings de Herglotz, assurant ainsi une stabilité numérique et une meilleure scalabilité.
2. Analyse Spectrale Unifiée : Les auteurs généralisent l'analyse spectrale des INR euclidiennes au cas sphérique. Ils démontrent théoriquement que :
   • Chaque neurone du PE Herglotz possède un spectre borné et caractérisé par un ordre dominant proportionnel à $\omega_0 w_i$.
   • Sous l'hypothèse d'une approximation par série de Taylor des fonctions d'activation, la capacité expressive (l'expansion spectrale) de tout INR sphérique satisfaisant une condition mineure s'échelonne avec la profondeur du réseau.
   • Cela prouve que HNET, tout comme SPH-SIREN, peut capturer un spectre riche (potentiellement infini) de fréquences en augmentant la profondeur.
3. Garantie de Bien-Posé : Contrairement aux INR euclidiennes standards, HNET garantit une représentation bien posée sur $S^2$, évitant les singularités aux pôles.

4. Résultats Expérimentaux

Les expériences ont été menées sur des données géophysiques (EARTH2014) en comparant HNET, SIREN standard et SPH-SIREN.

A. Super-Résolution

• Tâche : Entraîner sur une grille grossière ($L=150$) et évaluer sur une grille fine ($L=300$).
• Résultats : HNET, SIREN et SPH-SIREN obtiennent des performances quasi identiques en termes de rapport signal sur bruit (SNR $\approx$ 22.26 dB).
• Conclusion : HNET parvient à égaler la capacité de reconstruction de SPH-SIREN tout en étant plus simple à implémenter (pas d'harmoniques explicites).

B. Reconstruction du Laplacien Sphérique

• Tâche : Estimer le laplacien continu de la carte (dérivée seconde), une tâche critique pour les équations aux dérivées partielles (EDP).
• Résultats :
  • SIREN (Standard) : Présente des artefacts majeurs aux pôles, entraînant un SNR catastrophique (-20.95 dB). Elle perd la différentiabilité bien posée nécessaire aux EDP.
  • HNET et SPH-SIREN : Aucun artefact visible aux pôles. Reconstruction fidèle du laplacien avec des SNR élevés (HNET : 7.89 dB, SPH-SIREN : 6.83 dB).
• Conclusion : HNET combine la vitesse d'ajustement de SIREN avec la robustesse géométrique de SPH-SIREN, la rendant supérieure pour les tâches nécessitant des dérivées précises sur la sphère.

5. Signification et Impact

Ce travail établit Herglotz-NET comme un cadre évolutif et flexible pour la modélisation précise de données sphériques.

• Avantage pratique : En évitant le calcul explicite des harmoniques sphériques d'ordres élevés, HNET réduit la complexité computationnelle et les risques d'instabilité numérique.
• Fondement théorique : L'analyse spectrale fournie valide que les INR sphériques peuvent atteindre une expressivité infinie via la profondeur du réseau, offrant une compréhension théorique solide de leur comportement.
• Applications potentielles : HNET est particulièrement adapté pour la résolution d'EDP sur la sphère, la modélisation de champs physiques (météorologie, géophysique) et la compression de données, là où la régularité et la différentiabilité aux pôles sont critiques.