🧬 biology

Rethinking Diffusion Models with Symmetries through Canonicalization with Applications to Molecular Graph Generation

Cet article propose une approche théorique et pratique de la génération de graphes moléculaires 3D par diffusion, qui remplace les contraintes d'équivariance architecturale par une canonisation des échantillons, permettant ainsi d'entraîner des modèles non contraints plus expressifs et plus efficaces qui surpassent les méthodes de l'état de l'art.

Auteurs originaux : Cai Zhou, Zijie Chen, Zian Li, Jike Wang, Kaiyi Jiang, Pan Li, Rose Yu, Muhan Zhang, Stephen Bates, Tommi Jaakkola

Publié 2026-02-17

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Cai Zhou, Zijie Chen, Zian Li, Jike Wang, Kaiyi Jiang, Pan Li, Rose Yu, Muhan Zhang, Stephen Bates, Tommi Jaakkola

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Ceci est une explication générée par l'IA d'un preprint qui n'a pas été évalué par des pairs. Ce n'est pas un avis médical. Ne prenez pas de décisions de santé basées sur ce contenu. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'enseigner à un robot comment dessiner des molécules (de petites structures en 3D composées d'atomes) pour créer de nouveaux médicaments. C'est une tâche difficile, mais il y a un problème fondamental : la symétrie.

Le Problème : La Confusion des Jumeaux

Dans le monde des images (comme les photos de chats), si vous tournez un chat de 180 degrés, il est toujours le même chat, mais il est "à l'envers". Le robot sait que c'est le même objet, mais il doit apprendre à le reconnaître sous tous les angles.

Mais avec les molécules, c'est encore plus bizarre. Une molécule est comme un groupe d'amis qui se tiennent par la main.

Rotation : Si vous tournez tout le groupe, c'est toujours le même groupe d'amis.
Permutation : Si vous changez l'ordre dans lequel vous les appelez (par exemple, appeler "Pierre" avant "Paul" au lieu de "Paul" avant "Pierre"), c'est toujours le même groupe.

Pour un ordinateur, une molécule tournée ou dont les atomes sont comptés dans un ordre différent est techniquement une "image" différente, même si physiquement c'est exactement la même chose.

L'approche traditionnelle (et lourde) :
Les scientifiques ont essayé de construire des robots "super-symétriques". Ils ont forcé le robot à apprendre que "tourner" ou "changer l'ordre" ne change rien. C'est comme demander à un peintre de peindre un tableau en sachant qu'il doit pouvoir le peindre de n'importe quel angle, sans jamais se tromper. C'est très difficile, cela demande beaucoup de calculs, et le robot se perd souvent dans ses propres pensées (il hésite entre plusieurs versions identiques de la même molécule).

La Solution : La "Canonisation" (Mettre de l'Ordre)

C'est ici que l'article propose une idée géniale, qu'ils appellent la Canonisation.

Au lieu d'essayer d'enseigner au robot comment gérer le chaos de toutes les rotations et permutations possibles, pourquoi ne pas lui dire : "Attends, avant de commencer à dessiner, on va toujours mettre les choses dans un ordre standard, comme dans un dictionnaire."

Voici l'analogie de la clé de sol :
Imaginez que vous voulez apprendre à jouer du piano. Au lieu d'essayer d'apprendre à jouer la même mélodie dans toutes les tonalités (Do majeur, Ré majeur, etc.) en même temps, vous dites : "Toutes les mélodies seront jouées en Do majeur pour l'apprentissage."

L'entraînement (Canonisation) : Vous prenez chaque molécule et vous la "redressez" automatiquement. Vous imposez un ordre strict (par exemple, l'atome le plus lourd est toujours le premier, l'atome le plus à gauche est le deuxième, etc.). Vous forcez la molécule à avoir une "pose" unique et standard.
L'apprentissage : Le robot apprend maintenant à dessiner cette version "standardisée". Comme il n'y a plus de confusion (plus de multiples versions identiques), l'apprentissage est beaucoup plus rapide, plus simple et plus précis. C'est comme apprendre à marcher sur un chemin droit au lieu d'essayer de marcher dans une tempête de neige.
La création (Désordre contrôlé) : Une fois que le robot a appris à dessiner la molécule standard, au moment de créer une nouvelle molécule, on lui dit : "Ok, dessine-la d'abord en version standard, puis tourne-la au hasard et change l'ordre des noms des atomes."

Pourquoi c'est génial ?

Vitesse et Efficacité : En éliminant la confusion (la "symétrie"), le robot apprend beaucoup plus vite. Il n'a pas besoin de faire des calculs compliqués pour comprendre que deux images sont identiques. Il voit juste une seule image claire.
Moins d'erreurs : Les modèles précédents avaient du mal à savoir quelle version de la molécule générer, ce qui créait des erreurs. Avec cette méthode, le chemin est tout droit.
Résultats incroyables : Les auteurs ont testé cela sur la création de médicaments. Leur nouveau modèle (qu'ils appellent CanonFlow) est devenu le meilleur au monde (State-of-the-Art) pour créer des molécules stables et valides, et ce, avec moins de temps de calcul que les autres.

En résumé

Imaginez que vous essayez de ranger une chambre très en désordre où les vêtements sont éparpillés partout.

L'ancienne méthode : Vous essayez de ranger chaque vêtement en tenant compte de toutes les façons possibles de le plier et de le placer. C'est épuisant et lent.
La méthode "Canonisation" : Vous décidez d'une règle simple : "Tous les t-shirts vont dans le tiroir du haut, tous les jeans dans le tiroir du bas, et on les plie toujours dans le même sens." Une fois cette règle appliquée, ranger la chambre devient un jeu d'enfant. Et une fois la chambre rangée (la molécule générée), vous pouvez la tourner ou la déplacer, elle restera toujours propre et bien rangée.

C'est exactement ce que fait ce papier : il simplifie le chaos de la chimie 3D en imposant un ordre temporaire pour apprendre, puis laisse la liberté de mouvement pour créer.

1. Problématique

La génération de molécules 3D et de graphes moléculaires se heurte à un défi fondamental : l'invariance aux symétries du groupe $S_N \times SE(3)$ (permutations des atomes et rotations/translations globales).

Approche traditionnelle : Les modèles existants (comme EDM, GeoDiff) imposent des contraintes d'équivariance architecturale (couches équivariantes, tenseurs) pour garantir que la distribution générée respecte ces symétries.
Limites de l'approche traditionnelle :
- Complexité computationnelle : Les architectures équivariantes sont coûteuses et limitent l'expressivité des modèles (par exemple, les GNNs équivariants sont souvent moins expressifs que les Transformers standards).
- Ambiguïté de jauge (Gauge Ambiguity) : Dans l'espace des données bruyantes, un état intermédiaire peut correspondre à plusieurs configurations équivalentes (différentes permutations ou rotations). Cela crée un mélange de modes (mixture) dans le score de diffusion, augmentant la variance conditionnelle et rendant l'apprentissage des trajectoires difficile (trajectoires croisées, gradients conflictuels).
- Efficacité : Cela ralentit la convergence et dégrade la qualité de la génération en peu d'étapes (few-step).

2. Méthodologie : La Canonisation Diffusion

Les auteurs proposent une alternative radicale : au lieu de forcer l'équivariance dans le modèle, ils brisent la symétrie en amont via une canonisation, entraînent un modèle non contraint (non-équivariant) sur un espace canonique, puis restaurent l'invariance lors de l'échantillonnage.

A. Le Cadre Théorique (Espace Quotient)

Canonisation : Une application $\Psi$ qui mappe chaque molécule $Z$ à un représentant unique de son orbite (un "slice" canonique). Cela fixe une jauge (ordre des atomes et orientation globale).
Décomposition de la variance : L'article prouve théoriquement que l'erreur irréductible dans l'apprentissage par flux (Flow Matching) se décompose en deux termes :
1. Difficulté intra-tranche (Within-slice) : La difficulté réelle de transporter la distribution de données vers le bruit.
2. Ambiguïté de symétrie : Une variance induite par le fait de ne pas savoir quelle transformation du groupe a été appliquée.
Avantage clé : La canonisation élimine le terme d'ambiguïté de symétrie. Le modèle n'a plus à apprendre à moyenner sur les permutations/rotations, mais à apprendre un transport direct sur une variété canonique lisse.

B. Pipeline d'Implémentation

Canonisation des données :
- Permutation ( $S_N$ ) : Utilisation du vecteur de Fiedler (vecteur propre associé à la deuxième plus petite valeur propre du Laplacien géométrique) pour établir un ordre canonique des atomes basé sur la connectivité et la géométrie 3D.
- Rotation ($SO(3)$) : Définition d'un repère orthonormé global basé sur les atomes "ancres" (extrémités du vecteur de Fiedler et un troisième atome) pour fixer l'orientation.
Entraînement :
- Entraînement d'un modèle de diffusion ou de flux (Flow Matching) sur les données canonisées $\tilde{Z}$ .
- Utilisation de backbones non-équivariants (Transformers, GNNs standards) enrichis par des encodages de position canoniques (basés sur le rang spectral).
- Prior aligné : Utilisation d'une distribution a priori adaptée à la géométrie du slice canonique (ex: Gaussienne appariée aux moments) pour réduire la variance résiduelle.
- Optimal Transport (OT) : Utilisation de couplages OT (ou annealing OT) pour rendre les trajectoires plus droites, ce qui est plus efficace une fois la symétrie brisée.
Échantillonnage et Restauration :
- Génération d'une molécule canonique $\tilde{Z}_0$ .
- Randomisation de Haar : Application d'une transformation aléatoire $g \sim \lambda(G)$ (permutation et rotation aléatoires) pour restaurer l'invariance de la distribution finale.

C. Architecture Canon

Les auteurs introduisent une architecture nommée Canon, qui intègre explicitement l'information canonique (rang spectral) comme un état caché supplémentaire interagissant avec les features des atomes et des liaisons à chaque couche, permettant un débruitage "conscient de la canonicité".

3. Contributions Clés

Théorie de la Canonisation Diffusion : Preuve formelle que la canonisation réduit la variance conditionnelle en éliminant l'ambiguïté de symétrie, accélérant ainsi l'apprentissage.
Universalité et Expressivité : Démonstration que les modèles canonisés avec des backbones non-équivariants sont universels pour approximer des distributions invariantes et sont potentiellement plus expressifs que les modèles équivariants contraints.
Synergie Canonisation + OT : Mise en évidence du fait que la canonisation stabilise les solutions de Transport Optimal (qui sont souvent non-unicques sous symétrie), rendant les deux techniques complémentaires.
Nouvelle Architecture (CanonFlow) : Un modèle state-of-the-art combinant canonisation géométrique, prior aligné et architecture Canon.

4. Résultats Expérimentaux

Les expériences ont été menées sur les benchmarks QM9 et GEOM-DRUG (ce dernier étant plus difficile et contenant de grosses molécules).

Performance globale : CanonFlow et les versions canonisées de SemlaFlow surpassent tous les modèles de base (EDM, GeoDiff, MiDi, EQGAT-diff) sur les métriques de stabilité moléculaire, de validité chimique et de nouveauté.
- Sur GEOM-DRUG, CanonFlow atteint une stabilité moléculaire de 98.4% et une validité de 95.9%, surpassant le meilleur modèle précédent de manière significative.
Efficacité de l'apprentissage : Les modèles canonisés convergent plus rapidement et atteignent de meilleures métriques de validité et de RMSD optimisé (Opt-RMSD) en moins d'époques.
Génération en peu d'étapes (Few-step) : C'est un avantage majeur. Avec seulement 50 étapes d'intégration, les modèles canonisés surpassent les modèles équivariants nécessitant 500 étapes.
- Exemple : Canon. SemlaFlow (50 étapes) atteint 97.5% de stabilité moléculaire contre 97.0% pour SemlaFlow standard (50 étapes) et 93.4% pour EQGAT-diff (500 étapes).
Coût computationnel : La méthode offre ces performances avec un coût de calcul similaire ou inférieur aux méthodes équivariantes, car elle permet d'utiliser des architectures plus simples et plus rapides (Transformers standards).

5. Signification et Impact

Ce travail remet en question le dogme selon lequel la génération de données symétriques doit passer par des architectures équivariantes complexes.

Changement de paradigme : Il propose de traiter la symétrie comme un problème de "jauge" à résoudre par prétraitement (canonisation) plutôt que par contrainte architecturale.
Efficacité et Échelle : En permettant l'utilisation de modèles non-équivariants standards (plus expressifs et plus rapides), cette approche ouvre la voie à la génération de molécules à très grande échelle avec une haute fidélité.
Généralité : Bien que testé sur les molécules, le cadre théorique s'applique à tout problème de génération de données invariantes sous l'action d'un groupe (images, graphes, etc.).

En résumé, l'article démontre que briser la symétrie de manière contrôlée (canonisation) pour apprendre un transport plus simple, puis restaurer la symétrie à la fin, est une stratégie supérieure en termes de qualité, de vitesse de convergence et d'efficacité computationnelle par rapport aux approches équivariantes traditionnelles.