⚛️ physique quantique

Invariance can prevent overfitting and shortcut learning in Quantum Neural Networks

Cet article démontre que l'incorporation de la symétrie $D_4$ dans les réseaux de neurones quantiques améliore considérablement la généralisation, la robustesse à l'apprentissage par raccourcis et la résilience au bruit par rapport aux modèles non invariants possédant des architectures et un nombre de paramètres identiques à travers diverses tâches de classification d'images.

Auteur original : Giuseppe D'Ambruoso, Giovanni Gramegna, Domenico Pomarico, Giuseppe Magnifico, Cosmo Lupo

Publié 2026-11-11

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteur original : Giuseppe D'Ambruoso, Giovanni Gramegna, Domenico Pomarico, Giuseppe Magnifico, Cosmo Lupo

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par l'auteur. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans le monde de l'intelligence artificielle, les ordinateurs apprennent à voir le monde en scannant des images et en trouvant des motifs. Lorsqu'une machine regarde une photographie d'un chat, elle ne se soucie pas de savoir si le chat est assis bien droit, couché ou vu sous un angle différent ; l'étiquette « chat » reste la même. Cette capacité à reconnaître que l'identité fondamentale d'un objet reste constante même lorsque sa position change est appelée invariance. Pendant des décennies, les ingénieurs ont construit des programmes informatiques classiques qui intégraient cette règle de manière rigide, leur apprenant à ignorer la rotation et la réflexion afin qu'ils puissent apprendre plus rapidement et plus précisément. Aujourd'hui, des scientifiques tentent de construire un nouveau type d'ordinateur qui utilise les lois étranges de la physique quantique pour traiter l'information. Ces machines quantiques sont incroyablement puissantes en théorie, mais elles sont actuellement très petites et fragiles, sujettes aux erreurs lorsqu'elles tentent d'apprendre à partir de données limitées. Une question majeure était de savoir si ces nouvelles machines quantiques pouvaient également apprendre à ignorer la position d'un objet pour devenir de meilleurs apprenants, ou si leur physique unique les rendait trop sensibles à de tels détails.

Une équipe de chercheurs s'est donné pour mission de répondre à cela en construisant quatre modèles quantiques différents pour résoudre des tâches de classification d'images. Ils voulaient voir si le fait de forcer un ordinateur quantique à respecter la symétrie d'une image — c'est-à-dire qu'il traite une image pivotée comme le même objet — l'aiderait à mieux apprendre. Pour faire cela équitablement, ils ont construit quatre modèles distincts qui étaient identiques en tout point, à l'exception de la manière dont ils géraient la symétrie. Ils ont utilisé le même nombre de bits quantiques, le même nombre de réglages ajustables et la même structure mathématique sous-jacente. Deux de ces modèles ont été conçus pour être « invariants » par nature, ce qui signifie que leurs règles internes les forçaient à ignorer l'orientation de l'image. Les deux autres étaient autorisés à remarquer l'orientation, traitant une image pivotée comme une entrée complètement différente. Les chercheurs ont testé ces modèles sur quatre défis différents : la reconnaissance de chiffres écrits à la main, l'identification de formes géométriques simples, la distinction entre deux types de galaxies et l'identification de différentes formes de globules rouges. Dans chaque cas, les images apparaissaient avec des rotations aléatoires, tout comme elles pourraient l'être dans le monde réel.

Les résultats étaient clairs et cohérents à travers les quatre tâches. Les modèles qui ont été construits pour ignorer l'orientation des images ont appris beaucoup plus vite et ont commis moins d'erreurs sur de nouvelles images inédites. Parce qu'ils étaient forcés de se concentrer uniquement sur la forme de l'objet et non sur sa position, ils n'ont pas gaspillé leur capacité d'apprentissage limitée à mémoriser des détails spécifiques des photos d'entraînement. En revanche, les modèles qui étaient autorisés à remarquer l'orientation ont rapidement mémorisé les poses exactes des quelques images qui leur ont été présentées. Lorsque ces modèles non invariants étaient confrontés à une nouvelle image avec une rotation différente, ils échouaient souvent complètement. Les chercheurs ont découvert que le simple fait de rendre le circuit de l'ordinateur quantique symétrique ne suffisait pas ; l'étape finale où l'ordinateur lit sa réponse devait également être symétrique. Si l'ordinateur était construit avec des règles symétriques mais qu'on lui demandait de donner une réponse non symétrique, il échouait toujours à généraliser.

L'étude a également exploré un problème courant de l'apprentissage automatique appelé « apprentissage par raccourci » (shortcut learning), où un modèle trouve une astuce facile pour deviner la réponse au lieu d'apprendre la véritable règle. Les chercheurs ont ajouté un petit filigrane caché dans le coin de chaque image d'entraînement pour voir si les modèles s'appuieraient dessus. Les modèles capables de remarquer l'orientation ont appris ce tour instantanément ; ils regardaient le coin, voyaient le filigrane et devinaient la réponse sans jamais regarder l'image principale. Lorsque les chercheurs déplaçaient le filigrane dans un autre coin, ces modèles échouaient, retombant au niveau d'un choix aléatoire. Les modèles invariants, cependant, ne pouvaient pas voir le filigrane du tout car il tournait avec l'image. Au lieu de cela, ils étaient forcés de regarder le contenu réel de l'image, et ils continuaient à identifier les objets correctement même lorsque l'astuce était supprimée.

Enfin, l'équipe a testé la résistance de ces conclusions face au bruit et aux erreurs typiques du matériel quantique actuel. Les vrais ordinateurs quantiques sont imparfaits, et leurs signaux sont souvent déformés par la chaleur et les interférences. Les chercheurs ont simulé ces conditions et ont constaté que l'avantage des modèles invariants subsistait. Même lorsque les signaux quantiques étaient bruités, les modèles ignorant l'orientation restaient plus précis et moins sujets au surapprentissage que leurs homologues. L'étude suggère que pour que les ordinateurs quantiques soient utiles dans le monde réel, surtout lorsque les données sont rares, intégrer la symétrie directement dans leur conception est un outil puissant. Cela agit comme un garde-fou, empêchant la machine d'être distraite par des détails non pertinents et l'aidant à se concentrer sur les véritables motifs qui définissent le monde qui l'entoure.

Résumé technique : L'invariance dans les réseaux de neurones quantiques

Énoncé du problème
Les algorithmes quantiques variationnels (VQA), plus précisément les réseaux de neurones quantiques (QNN), constituent une approche de premier plan pour l'apprentissage automatique sur le matériel quantique de l'ère NISQ (Noisy Intermediate-Scale Quantum). Cependant, leur utilité est limitée par le nombre restreint de qubits, le bruit et le problème des « plateaux stériles » (barren plateaus), où les gradients s'estompent exponentiellement avec la taille du système. Par conséquent, les QNN sont généralement entraînés sur de petits ensembles de données, ce qui soulève une question critique : généralisent-ils efficacement à partir de peu d'exemples ? Bien que les architectures sensibles aux symétries (réseaux équivariants) soient théoriquement censées améliorer la généralisation et l'efficacité des données en restreignant le modèle à des fonctions invariantes, les études précédentes ont eu du mal à isoler le bénéfice spécifique de la symétrie. Souvent, les modèles équivariants sont comparés à des modèles non équivariants qui diffèrent par leurs ensembles de portes, leur structure de circuit ou leur nombre de paramètres, ce qui rend difficile l'attribution de l'amélioration des performances à la symétrie plutôt qu'à d'autres différences architecturales. De plus, il reste à déterminer si le bénéfice provient du circuit équivariant lui-même ou de la lecture (readout) invariante, et si ces modèles sont robustes à l'apprentissage par raccourcis (shortcut learning — s'appuyer sur des indices fallacieux) et au bruit matériel réaliste.

Méthodologie
Les auteurs mènent une investigation contrôlée sur le rôle de l'invariance dans les tâches de classification d'images où les étiquettes sont invariantes sous le groupe diédral $D_4$ (rotations par multiples de $90^\circ$ et réflexions). Pour isoler l'effet de la symétrie, ils conçoivent une étude comparant quatre modèles distincts de 8 qubits qui partagent :

Un encodage identique : Encodage d'amplitude d'images de $16 \times 16$ pixels sur 8 qubits, où $D_4$ agit via des inversions de bits (bit-flips) et des échanges de registres (register swaps).
Une structure de circuit identique : Le même nombre de couches, de paramètres entraînables et de schémas de partage de paramètres.
Des algèbres de Lie dynamiques (DLA) équivalentes : Les circuits sont construits de telle sorte que leurs DLA sont conjuguées et de même dimension ($569$), garantissant qu'ils possèdent la même puissance expressive concernant les unitaires atteignables.

Les quatre modèles sont définis par la combinaison de l'équivariance du circuit et de l'invariance de la lecture :

Equiv : Un circuit équivariant mesuré avec un observable équivariant (modèle entièrement invariant).
Equiv-NoSym : Le même circuit équivariant mesuré avec un observable non équivariant (modèle non invariant).
NonEquiv : Un circuit non équivariant (construit en conjuguant le circuit équivariant avec un unitaire fixe sur un registre) mesuré avec un observable équivariant (modèle non invariant).
NonEquiv-Twirled : Le circuit non équivariant moyenné sur le groupe $D_4$ (post-traitement classique) pour imposer l'invariance.

Les modèles sont évalués sur quatre tâches de classification binaire : les chiffres MNIST (4 contre 5), une tâche synthétique (croix contre carré), Galaxy10 (face à l'observateur contre vue de profil) et les globules rouges (forme falciforme contre autres formes déformées). L'étude évalue l'erreur de généralisation, la robustité face à l'apprentissage par raccourcis (en utilisant des filigranes dépendants de la classe et des gradients) et la résilience à un modèle de bruit réaliste simulant des processeurs quantiques supraconducteurs.

Contributions clés et résultats
L'étude produit six conclusions principales :

L'invariance empêche le surapprentissage : Sur les quatre tâches, les modèles invariants (Equiv et NonEquiv-Twirled) entraînés sur seulement 20 à 40 images présentent des écarts de généralisation nettement plus faibles et une précision de test plus élevée par rapport aux modèles non invariants. Les modèles non invariants ont tendance à faire du surapprentissage sur les poses spécifiques présentes dans l'ensemble d'entraînement.
L'équivariance du circuit est insuffisante : Le circuit équivariant seul ne garantit pas la généralisation. Le modèle Equiv-NoSym (circuit équivariant, lecture non équivariante) présente un surapprentissage aussi important que le modèle non équivariant NonEquiv. Le bénéfice ne survient que lorsque l'ensemble du modèle (circuit + lecture) est invariant.
Le coût de l'apprentissage de la symétrie : Les modèles non invariants font du surapprentissage car ils doivent apprendre la symétrie à partir des données. Lorsqu'ils sont testés sur des chiffres droits (où l'orientation est fixe et informative), le modèle non invariant fait beaucoup moins de surapprentissage, confirmant que le surapprentissage dans les contextes de poses aléatoires est le coût de l'inférence de la contrainte de symétrie.
Invariance intégrée vs moyennée : L'invariance intégrée (Equiv) et la moyenne de groupe classique (NonEquiv-Twirled) empêchent toutes deux le surapprentissage. Cependant, leur précision dépend de la tâche. Equiv est plus performant sur la tâche synthétique, tandis que NonEquiv-Twirled est plus performant sur les globules rouges. Cela est attribué à leurs différentes classes de fonctions : Equiv possède un espace de caractéristiques plus petit et entièrement invariant, tandis que NonEquiv-Twirled projette un espace plus large et non invariant sur des caractéristiques invariantes.
Immunité aux raccourcis d'orientation : Lorsque l'entraînement utilise des filigranes de coins dépendants de la classe ou des gradients de luminosité (raccourcis), les modèles non invariants apprennent ces indices fallacieux et échouent lorsque les indices sont déplacés ou supprimés. Les modèles invariants, incapables de distinguer les versions pivotées de l'image, ignorent les raccourcis dépendants de la position et apprennent le contenu réel des images.
Résilience au bruit : L'avantage de performance des modèles invariants persiste sous des modèles de bruit réalistes (relaxation thermique, bruit de dépolarisation, erreurs de lecture) typiques des processeurs supraconducteurs actuels. Bien que le bruit brise légèrement la symétrie du modèle Equiv, la dégradation est minimale (<2 %) et l'écart de généralisation reste favorable par rapport aux modèles non invariants.

Signification
Cette étude démontre que l'incorporation des symétries de tâches dans les QNN est une stratégie viable pour atténuer le surapprentissage et l'apprentissage par raccourcis dans le régime de données limitées des dispositifs quantiques de l'ère NISQ. Crucialement, l'étude établit que le bénéfice n'est pas inhérent à la structure du circuit équivariant seul, mais nécessite que la sortie du modèle soit invariante. En contrôlant la profondeur du circuit, le nombre de paramètres et l'algèbre de Lie dynamique, les auteurs montrent que l'invariance agit comme un biais inductif puissant, permettant aux modèles de généraliser à partir de peu d'exemples sans dépendre de corrélations fallacieuses. Ces résultats soutiennent l'utilisation de contraintes de symétrie dans la conception de modèles quantiques, particulièrement lorsque les données étiquetées sont rares, tout en soulignant que le choix spécifique de la classe de fonction invariante (intégrée vs moyennée) doit être adapté à la tâche spécifique.

Articles similaires