Bases of Steerable Kernels for Equivariant CNNs: From 2D Rotations to the Lorentz Group

1. Problématique

Les réseaux de neurones convolutifs (CNN) classiques sont intrinsèquement équivariants aux translations, mais pas aux autres transformations géométriques (rotations, réflexions, boosts de Lorentz). Pour améliorer les performances et la généralisation, il est crucial d'intégrer des priors de symétrie directement dans l'architecture du réseau.

Le défi central réside dans la conception de couches équivariantes steerable (dirigeables). Une telle couche $L$ doit satisfaire la condition d'équivariance : si l'entrée est transformée par un élément $g$ d'un groupe de symétrie $G$, la sortie doit subir la même transformation. Mathématiquement, cela impose une contrainte stricte sur le noyau de convolution $K$ :
$$K(g \cdot x) = \frac{1}{|\det g|} \rho_{out}(g) K(x) \rho_{in}(g)^{-1}$$
où $\rho_{in}$ et $\rho_{out}$ sont les représentations du groupe agissant sur les cartes de caractéristiques d'entrée et de sortie.

Le problème spécifique abordé par l'article est la difficulté de trouver une base explicite de solutions pour cette équation linéaire. Les méthodes existantes reposent souvent sur le calcul de coefficients de Clebsch-Gordan pour décomposer les produits tensoriels de représentations irréductibles (passage d'une base "découplée" à une base "couplée" et retour). Ce processus est :

1. Computaionnellement coûteux et complexe à implémenter.
2. Difficile à généraliser, en particulier pour les groupes non compacts comme le groupe de Lorentz.
3. Souvent obscur pour les praticiens du Deep Learning non familiers avec la théorie des représentations avancée.

2. Méthodologie

L'auteur propose une approche alternative et plus directe pour résoudre la contrainte de steerabilité, évitant le recours aux coefficients de Clebsch-Gordan. La stratégie repose sur trois piliers :

1. Réduction au point fixe (Stabilisateur) :
   Au lieu de résoudre l'équation pour tout $x \in \mathbb{R}^d$, l'auteur sélectionne un point de référence $x_0$ sur une orbite du groupe $G$. Le noyau en ce point, $K(x_0)$, doit satisfaire une condition d'invariance beaucoup plus simple sous l'action du groupe de stabilisateur (ou groupe d'isotropie) $H = \text{Stab}_{x_0}$.
   L'équation devient :
   $$K(x_0) = \rho_{out}(h) K(x_0) \rho_{in}(h)^{-1}, \quad \forall h \in H$$
   Cela signifie que $K(x_0)$ est un morphisme de représentations (ou entrelaceur) entre les restrictions des représentations $\rho_{out}$ et $\rho_{in}$ au sous-groupe $H$.

2. Utilisation du Lemme de Schur :
   En décomposant les représentations restreintes à $H$ en sommes directes de représentations irréductibles, l'auteur applique le lemme de Schur. Cela permet de déterminer la structure de $K(x_0)$ sans calculs complexes :

   • Si les composantes irréductibles ne sont pas isomorphes, le bloc correspondant est nul.
   • Si elles sont isomorphes, le bloc est un multiple scalaire (ou un opérateur spécifique comme $I, J, K$ pour les cas quaternioniques) de l'identité.
     Cela fournit une base explicite pour $K(x_0)$ en termes de matrices simples.

3. Steering (Dirigage) :
   Une fois la base de $K(x_0)$ obtenue, le noyau pour n'importe quel point $x$ de l'orbite (où $x = g \cdot x_0$) est reconstruit en appliquant la définition de l'équivariance :
   $$K(x) = K(g \cdot x_0) = \rho_{out}(g) K(x_0) \rho_{in}(g)^{-1}$$
   Cette étape "steer" (dirige) les solutions locales vers l'espace global.

3. Contributions Clés

• Élimination des coefficients de Clebsch-Gordan : La méthode contourne le besoin de calculer ou de stocker les coefficients de Clebsch-Gordan, qui sont souvent difficiles à obtenir analytiquement ou numériquement pour des groupes complexes.
• Généralité et Accessibilité : La méthode est présentée avec des outils mathématiques minimaux, la rendant accessible à un public plus large (ingénieurs, data scientists) tout en restant rigoureuse.
• Extension aux groupes non compacts : L'article applique avec succès cette stratégie au groupe de Lorentz $SO^+(1, 3)$, un défi majeur pour les réseaux équivariants en physique relativiste, là où les méthodes traditionnelles échouent ou deviennent prohibitives.
• Bases explicites prêtes à l'emploi : L'auteur fournit des formules fermées pour les bases de noyaux steerable pour divers groupes, directement utilisables dans l'implémentation de réseaux de neurones.

4. Résultats et Applications par Groupe

L'article dérive des bases explicites pour plusieurs groupes de symétrie :

• Groupes Compacts (SO(2), O(2), SO(3), O(3)) :

  • Pour SO(2) et O(2), les solutions sont exprimées en termes de fonctions trigonométriques simples (sinus, cosinus) et de matrices de Pauli.
  • Pour SO(3) et O(3), les solutions sont construites à partir des harmoniques sphériques (réelles et complexes) et des matrices de Wigner $D$. L'auteur montre comment passer des représentations complexes aux réelles en utilisant des combinaisons linéaires spécifiques, évitant les changements de base complexes.

• Groupe de Lorentz $SO^+(1, 3)$ (Systèmes Relativistes) :

  • Particules Massives : Le stabilisateur est isomorphe à $SO(3)$. Les noyaux sont construits en identifiant les sous-espaces invariants (spin 0, 1, 2, etc.) au sein des tenseurs d'espace-temps. Les intertwiners apparaissent naturellement comme des projecteurs covariants (ex: $\Delta^\mu_\nu = \delta^\mu_\nu - u^\mu u_\nu$) qui projettent sur les composantes spatiales orthogonales au vecteur vitesse $u$.
  • Particules de Spin Demi-Entier (Fermions) : L'article traite les représentations spinorielles $(j_L, j_R)$ et introduit les opérateurs de charge conjuguée $C$ et les matrices $\gamma$ pour construire les bases d'entrelacement pour les spins 1/2 et 3/2.
  • Particules Sans Masse : Le stabilisateur est $ISO(2)$. L'auteur propose une construction basée sur des projecteurs orthogonaux à des vecteurs nuls $n$ et $\bar{n}$, gérant l'invariance de jauge inhérente aux particules sans masse (comme les photons).

5. Signification et Impact

• Efficacité Computationnelle : En évitant les calculs de Clebsch-Gordan, la méthode réduit la complexité de la conception des architectures équivariantes. Elle permet de générer dynamiquement les noyaux nécessaires sans pré-calcul lourd.
• Flexibilité Architecturale : La méthode permet de construire facilement des cartes équivariantes entre des types de tenseurs arbitraires (scalaires, vecteurs, tenseurs d'ordre supérieur) pour n'importe quel groupe de Lie compact.
• Avancée pour la Physique : L'application au groupe de Lorentz ouvre la voie à des réseaux de neurones capables de traiter directement des données relativistes (comme en physique des hautes énergies ou en cosmologie) tout en respectant strictement les lois de la relativité restreinte.
• Interprétabilité : La structure des noyaux obtenus (souvent des projecteurs géométriques) offre une interprétabilité physique claire des opérations effectuées par le réseau.

En conclusion, cet article propose un cadre unifié et pratique pour la conception de CNN équivariants, transformant un problème algébrique complexe en une procédure systématique basée sur la géométrie des orbites et les propriétés des sous-groupes d'isotropie.