Geometric Algebra Meets Cartesian Tensors: Higher-Order Equivariance for Interatomic Potentials

Résumé technique : L'algèbre géométrique rencontre les tenseurs cartésens : Équivariance d'ordre supérieur pour les potentiels interatomiques

Énoncé du problème
Les potentiels interatomiques par apprentissage automatique (MLIP) doivent encoder les symétries physiques, en garantissant spécifiquement que les forces prédites sont équivariantes sous les rotations et les translations. Si la magnitude des forces est souvent prédite avec précision, la direction des forces échoue fréquemment, entraînant des trajectoires qui dérivent hors du bassin d'énergie potentielle correct. Les auteurs identifient une limitation structurelle dans les architectures existantes basées sur l'algèbre de Clifford (géométrique) : le produit géométrique de deux vecteurs dans $\mathbb{R}^3$ (au sein de l'algèbre $Cl(3,0)$) ne réalise que les représentations irréductibles (irreps) $L=0$ (scalaire) et $L=1$ (vecteur/bivecteur) de $SO(3)$. La composante de rang 2 symétrique-tracée (STF) est absente des opérations bilinéaires par arête qui pilotent les couches de passage de messages, ce qui est essentiel pour capturer les distributions de charge quadrupolaires, les interactions d'orbitales d- et le stress anisotrope. Par conséquent, les modèles de Clifford standards comptent sur l'empilement de couches pour reconstruire indirectement le contenu $L \ge 2$, ce qui entraîne une faible fidélité directionnelle (similarité cosinus de force agrégée $< 0,25$ sur rMD17) par rapport aux modèles basés sur les harmoniques sphériques.

Méthodologie : CliffordSTF
Le papier propose CliffordSTF, une architecture hybride qui couple le substrat de multivecteurs de Clifford avec des pistes de tenseurs symétriques-tracées (STF) à forme fermée. L'innovation centrale est une conception à « double piste » qui évite les tables de Clebsch–Gordan (CG), les matrices de Wigner-D ou les bibliothèques externes comme $e3nn$.

1. Fondement théorique (Théorème 1) : Les auteurs établissent une équivalence constructive entre le produit géométrique $Cl(3,0)$ et les opérations STF. Ils démontrent que le produit tensoriel $1 \otimes 1$ (deux vecteurs) peut être décomposé en composantes $L=0, 1, 2$ en utilisant uniquement :

   • La partie scalaire du produit géométrique ($L=0$).
   • Le dual de Hodge de la partie bivecteur ($L=1$).
   • Un projecteur symétrique-tracé à forme fermée ($L=2$).
     Cette construction couvre l'intégralité du contenu de l'irrep $SO(3)$ jusqu'à $L=3$ au niveau de l'opération bilinéaire par arête, sans coefficients CG appris.

2. Architecture :

   • Substrats : Le modèle maintient deux pistes de caractéristiques parallèles par atome : un multivecteur de Clifford (dimension 8, couvrant $2 \cdot L=0 \oplus 2 \cdot L=1$) et des canaux STF optionnels de rangs 2 et 3.
   • Passage de messages : Les messages sont générés via le produit géométrique sur la piste de Clifford et des contractions STF à forme fermée sur la piste tensorielle.
   • Couplage inter-pistes : Un composant critique est le couplage bidirectionnel entre les pistes. Les caractéristiques STF sont générées à partir des vecteurs de Clifford, et inversement, les caractéristiques STF se contractent avec les vecteurs de Clifford (via $S \cdot v$) pour réinjecter l'information $L=2$ dans le canal vectoriel ; ce couplage est appris via une opération bilinéaire unique.
   • Lecture (Readout) : Les forces sont prédites en combinant des canaux vectoriels (grade-1) et des duaux de Hodge de bivecteurs (grade-2), augmentés de contractions explicites $L=2 \otimes L=1 \to L=1$ ($S \cdot \hat{r}$) qui capturent les composantes de force angulaire inaccessibles aux architectures $L \le 1$.

Contributions clés

• Diagnostic : Le papier isole le manque de substrat $L \ge 2$, plutôt que la capacité du modèle ou la profondeur, comme la cause primaire de l'échec directionnel des baselines Clifford en $L \le 1$.
• Architecture : Une construction à forme fermée qui couvre le contenu des harmoniques sphériques jusqu'à $L=3$ en utilisant un seul produit bilinéaire appris et des opérations STF classiques, vérifiées par rapport aux symboles Wigner-3j.
• Validation empirique : Une étude d'ablation à onze variantes confirme que l'échafaudage hybride est nécessaire ; ni la piste Clifford seule, ni la piste STF seule (sans couplage) n'approchent les performances du système combiné.

Résultats
Évalué sur les benchmarks rMD17, OC20 et OC22 avec un budget de paramètres fixe ($\sim 10^6$ paramètres) :

• rMD17 (Directionnalité de la force) : CliffordSTF atteint une similarité cosinus de force agrégée de 0,551, soit une amélioration décuplée par rapport au modèle Clifford de base (0,055) et surpasse tous les autres baselines sans CG ou ordonnés par corps (tous $\le 0,17$). Il approche les performances des modèles complets à harmoniques sphériques (EquiformerV2 $\approx 0,96$) sans utiliser d'harmoniques sphériques.
• Précision de la magnitude : Les gains directionnels ne se font pas au détriment de la précision de la magnitude. CliffordSTF réduit l'MAE de la force de 15,8 % et l'MAE de l'énergie de 10,9 % par rapport au modèle Clifford de base.
• Catalyse (OC22) :
  • IS2RE : Atteint la meilleure MAE d'énergie in-distribution parmi les méthodes $L \ge 2$ (4,09 eV) et une performance out-of-distribution compétitive.
  • S2EF : Obtient la meilleure MAE d'énergie out-of-distribution de l'étude et égale la meilleure MAE in-distribution parmi les méthodes $L \ge 2$.
• Efficacité : À l'inférence, CliffordSTF (0,352 s/étape) est compétitif avec les baselines plus lentes à harmoniques sphériques et plus rapide que les baselines de tenseurs cartésiens comme ICTP. L'entraînement est environ 2 à 3 fois plus lent que les baselines les plus rapides à harmoniques sphériques (MACE, EquiformerV2) en raison de la surcharge du graphe autograd du scaffold à double piste, mais reste compétitif avec d'autres méthodes de champs tensoriels.

Signification et affirmations
Le papier affirme que le choix de la représentation dans les architectures équivariantes doit être dicté par le contenu angulaire spécifique requis ($L$-values) plutôt que par la loyauté à un formalisme algébrique unique. En démontrant que le produit géométrique et les opérations STF à forme fermée couvrent ensemble le même contenu d'irrep $SO(3)$ que les harmoniques sphériques jusqu'à $L=3$, les auteurs montrent qu'une approche hybride peut récupérer l'expressivité structurelle manquante de l'algèbre géométrique pure.

Les auteurs notent modestement que bien que CliffordSTF comble considérablement l'écart, il ne égale pas encore la fidélité directionnelle absolue des architectures entièrement basées sur les harmoniques sphériques (EquiformerV2). Ils identifient le couplage inter-pistes comme un « levier de stabilité » essentiel pour l'entraînement, plutôt que comme un simple moteur de précision, et suggèrent que les travaux futurs pourraient étendre cela à des $L_{max}$ plus élevés, optimiser les coûts d'entraînement via des noyaux fusionnés (fused kernels), et atteindre une équivariance $O(3)$ complète grâce au suivi explicite de la parité.