Hybrid Quantum-Classical Neural Architecture Search

Cet article établit les fondements de l'application de la recherche d'architecture neuronale (NAS) aux réseaux de neurones hybrides quantiques-classiques (HQNN) en introduisant une stratégie de recherche consciente des FLOPs qui optimise les choix architecturaux pour garantir à la fois la précision et l'efficacité computationnelle dans les contraintes du matériel NISQ.

L'essentiel

Imaginez que vous essayez de construire un cerveau de robot ultra-intelligent. Dans le monde de la technologie actuelle, nous avons deux types de « cerveaux » que nous pouvons utiliser :

1. Le Cerveau Classique : Il s'agit de la puce informatique standard que nous utilisons dans les téléphones et les ordinateurs portables. Elle est rapide, fiable et excellente pour le calcul numérique.
2. Le Cerveau Quantique : Il s'agit d'un type de processeur futuriste et expérimental qui utilise les règles étranges de la physique quantique. Il a le potentiel de résoudre des problèmes beaucoup plus rapidement, mais pour l'instant, il est très fragile, bruyant et difficile à contrôler.

L'Idée Hybride
L'article discute d'une approche « Hybride ». Au lieu d'essayer de construire un Cerveau Quantique parfait (qui n'existe pas encore) ou de s'en tenir uniquement au Cerveau Classique, les chercheurs les combinent. Ils créent un Réseau de Neurones Quantique-Classique Hybride (HQNN).

Pensez-y comme à une équipe de cuisine :

• Le Chef Classique fait le travail de préparation : émincer les légumes, mesurer les ingrédients et dresser le plat final.
• Le Chef Quantique est un spécialiste qui gère une étape très spécifique et délicate (comme un soufflé parfait) qui nécessite un équipement spécial.
• Ils travaillent ensemble dans un seul flux de travail. Le Chef Classique passe la nourriture au Chef Quantique, qui fait sa magie, puis le Chef Classique termine le travail.

Le Problème : Trop de Choix
Le problème est que la construction de cette équipe est incroyablement difficile. Vous devez décider :

• Combien de « Chefs Quantiques » (qubits) avez-vous besoin ?
• Quels « trucs » spécifiques (portes) le Chef Quantique doit-il utiliser ?
• Comment doivent-ils communiquer entre eux ?

Actuellement, les scientifiques doivent deviner ces réponses manuellement. C'est comme essayer de concevoir un moteur de voiture en échangeant des pièces au hasard et en espérant qu'il fonctionne. Si vous choisissez les mauvaises pièces, le moteur est trop lourd, trop lent, ou il ne démarre tout simplement pas. Avec le matériel quantique « bruyant » actuel, se tromper de conception gaspille beaucoup de temps et d'argent.

La Solution : L'Architecte Automatisé (NAS)
L'article propose d'utiliser un outil appelé Recherche d'Architecture de Neurones (NAS). Imaginez le NAS comme un architecte automatisé ou un concepteur robot.

Au lieu qu'un humain devine la conception, le robot teste des milliers de combinaisons différentes de parties classiques et quantiques. Il se demande : « Si j'utilise 3 qubits avec ce motif de portes spécifique, comment cela fonctionne-t-il ? » Ensuite, il essaie une autre combinaison. Avec le temps, il apprend quels designs sont les meilleurs.

La Surprise : Le Compteur de « FLOPs »
Voici l'innovation principale de l'article. Habituellement, ces concepteurs robot ne se soucient que de la Précision (à quel point la réponse est juste). Mais les auteurs disent : « Attendez ! Nous devons aussi nous soucier du Coût. »

Ils introduisent une métrique appelée FLOPs (Opérations à Virgule Flottante).

• L'Analogie : Imaginez que vous engagez une équipe de construction. Vous voulez que la maison soit parfaite (Précision), mais vous ne voulez pas non plus dépenser un million de dollars en briques (Coût).
• Dans le monde des ordinateurs quantiques, nous ne pouvons pas encore tout exécuter sur de vraies machines quantiques car elles sont trop rares et fragiles. Nous les simulons donc sur des ordinateurs classiques.
• Les FLOPs agissent comme un jauge de carburant pour cette simulation. Ils mesurent combien de « carburant informatique » (opérations mathématiques) un design spécifique consomme.

L'article soutient que nous ne devrions pas simplement chercher le modèle le plus précis ; nous devrions chercher le modèle qui nous donne la meilleure précision pour la moindre quantité de carburant.

Ce qu'ils ont fait
Les chercheurs ont configuré leur « Architecte Robot » pour concevoir ces cerveaux hybrides.

1. L'Espace de Recherche : Ils ont dit au robot qu'il pouvait choisir parmi différents nombres de qubits, différents types de portes quantiques et différentes façons de les connecter.
2. L'Objectif : Le robot devait trouver des designs qui étaient précis mais aussi efficaces (faibles FLOPs).
3. La Méthode : Ils ont utilisé un « Algorithme Génétique », qui est comme l'évolution. Le robot crée une population de designs, conserve les meilleurs, les mélange (croisement) et apporte de petits changements aléatoires (mutation) pour voir s'ils s'améliorent.

Les Résultats
Ils ont testé cela sur deux ensembles de données simples (comme le tri de fleurs et la reconnaissance de chiffres manuscrits).

• La Découverte : Ils ont constaté que vous n'avez pas toujours besoin du circuit quantique le plus grand et le plus complexe pour obtenir un bon résultat.
• Le Compromis : Il existe un « point idéal ». Si vous rendez la partie quantique trop grande, vous brûlez trop de carburant (FLOPs) sans obtenir beaucoup plus de précision. Si elle est trop petite, elle n'est pas assez intelligente.
• Le Front de Pareto : Ils ont trouvé une « Ligne Dorée » de designs. Ce sont les designs où vous ne pouvez pas obtenir une meilleure précision sans utiliser plus de carburant, et vous ne pouvez pas utiliser moins de carburant sans perdre en précision.

L'Essentiel
L'article conclut que pour faire fonctionner les réseaux hybrides quantique-classiques dans le monde réel, nous devons arrêter de deviner et commencer à automatiser la conception tout en surveillant le coût computationnel.

Ils ont utilisé les FLOPs comme substitut au coût car, pour l'instant, nous testons principalement ces idées sur des simulations. Ils admettent que dans le futur, ils devront prendre en compte les problèmes quantiques réels (comme le bruit et les connexions brisées), mais pour l'instant, utiliser cette approche de « jauge de carburant » les aide à construire des modèles hybrides plus intelligents et plus efficaces sans gaspiller de ressources.

En bref : Ne construisez pas seulement le robot le plus intelligent ; construisez le robot le plus intelligent qui ne manque pas de batterie.

Résumé technique

Résumé technique : Recherche d'architecture de réseaux neuronaux hybrides quantiques-classiques

Énoncé du problème

Les réseaux neuronaux hybrides quantiques-classiques (HQNN) représentent une approche pratique pour l'apprentissage automatique quantique (QML) à l'ère des ordinateurs quantiques intermédiaires bruyants (NISQ), combinant l'apprentissage profond classique avec des circuits quantiques paramétrés (PQC). Cependant, les performances et l'efficacité des HQNN sont hautement sensibles aux choix architecturaux, notamment les stratégies d'encodage des données, la profondeur des circuits, la composition des portes, les motifs d'intrication et le couplage entre les modules classiques et quantiques.

Actuellement, la conception des HQNN repose fortement sur une construction manuelle et heuristique par des experts. Cette approche devient de plus en plus difficile à mettre à l'échelle et échoue souvent à prendre en compte les limitations matérielles et les contraintes de ressources. Bien que la recherche d'architecture de réseaux neuronaux (NAS) ait réussi à automatiser la conception de l'apprentissage profond classique, son extension aux contextes quantiques et hybrides reste peu explorée. Plus précisément, il existe un besoin d'une méthode systématique pour découvrir des architectures HQNN qui équilibrent la précision prédictive avec l'efficacité computationnelle, allant au-delà d'une optimisation centrée sur la précision pour parvenir à une conception consciente du matériel.

Méthodologie

L'article propose un cadre pour la Recherche d'Architecture de Réseaux Neuronaux Consciente du Matériel (HANAS) Sensible aux FLOPs, adaptée aux HQNN. La méthodologie traite la conception des HQNN comme un problème d'optimisation multi-objectif, visant à maximiser simultanément la précision prédictive et à minimiser le coût computationnel.

1. Formulation du problème

La recherche est formulée comme la sélection d'une architecture $a^*$ dans un espace de recherche $\mathcal{A}$ afin de minimiser une fonction objectif $J(a)$, qui combine la qualité de l'apprentissage et le coût de mise en œuvre :
$$a^* = \arg \min_{a \in \mathcal{A}} J(a)$$
Dans ce travail, $J(a)$ est un critère multi-objectif équilibrant la précision et la complexité computationnelle.

2. Définition de l'espace de recherche

L'espace de recherche est décomposé en quatre composantes :

• Encodage des données ($\mathcal{A}_{enc}$) : Choix tels que l'encodage par angle ou par amplitude.
• Circuit variationnel ($\mathcal{A}_{var}$) : Comprend le nombre de qubits (variant de 2 à 10), les portes de rotation paramétrées ($R_x, R_y, R_z$), les types de portes d'intrication (CNOT, CZ) et la topologie d'intrication (linéaire, circulaire).
• Mesure ($\mathcal{A}_{meas}$) : Configuration de lecture.
• Post-traitement ($\mathcal{A}_{post}$) : Couches classiques pour la prédiction.

Dans les expériences proposées, les couches de pré- et post-traitement classiques ont été maintenues fixes pour isoler l'impact des variations de la couche quantique. L'espace de recherche défini a produit un total de 23 328 architectures hybrides potentielles.

3. Stratégie de recherche : Algorithme génétique (NSGA-II)

Les auteurs utilisent l'algorithme génétique de tri non dominé II (NSGA-II) pour explorer l'espace de recherche. Le processus implique :

• Initialisation : Création d'une population d'architectures candidates.
• Évaluation : Entraînement de chaque modèle hybride et mesure de deux métriques clés :
  1. Précision : Performance standard de classification.
  2. FLOPs (Opérations à virgule flottante) : Utilisés comme proxy matériellement agnostique de la complexité computationnelle. Crucialement, l'étude distingue les FLOPs classiques (traitement des données) des FLOPs quantiques (simulation des mises à jour du vecteur d'état des PQC).
• Sélection et Évolution : Utilisation du tri non dominé et de la distance de congestion pour identifier les solutions optimales au sens de Pareto. L'algorithme emploie le croisement ($p=0,8$) et la mutation ($p=0,2$) pour faire évoluer les générations.
• Arrêt : La recherche s'arrête si aucune amélioration des objectifs n'est observée pendant deux générations consécutives.

Contributions clés

1. Cadre systématique pour la conception de HQNN : L'article établit une fondation pour étendre la NAS aux contextes hybrides quantiques-classiques, passant d'une conception heuristique manuelle à une optimisation automatisée et systématique.
2. Optimisation sensible aux FLOPs : Il introduit une approche spécifique où le coût computationnel (mesuré en FLOPs) est explicitement optimisé parallèlement à la précision. Cela répond au goulot d'étranglement de la surcharge de ressources classiques dans le développement de HQNN piloté par la simulation.
3. Décomposition de l'espace de recherche : Le travail formalise l'espace de recherche des HQNN en composantes distinctes (encodage, variationnel, mesure, post-traitement), soulignant que la recherche d'architecture quantique va au-delà du simple séquencement de portes.
4. Validation empirique : La méthodologie est validée sur des ensembles de données de complexité variable (Iris et Digits), démontrant la capacité à identifier des architectures atteignant de hautes performances avec des ressources computationnelles réduites.

Résultats

L'évaluation expérimentale sur les ensembles de données Iris et Digits a produit les enseignements suivants :

• Ensemble de données Iris : La précision variait considérablement (de 40 % à >90 %) selon les architectures. Les solutions optimales au sens de Pareto ont atteint une haute précision avec des FLOPs classiques très faibles, indiquant que la surcharge classique n'était pas le facteur limitant. L'analyse des FLOPs quantiques a montré qu'une forte performance pouvait être atteinte avec des budgets faibles et élevés, bien que les configurations de milieu de gamme aient été incohérentes.
• Ensemble de données Digits : La précision s'est améliorée rapidement avec de faibles augmentations des FLOPs quantiques, se saturant près de 100 % à des budgets de $10^3$–$10^4$. Au-delà de ce point, des circuits plus grands offraient des rendements décroissants. Les FLOPs classiques ont montré une faible corrélation avec la précision, tandis que la distribution totale des FLOPs a révélé un front de Pareto bien défini.
• Constats généraux :
  • Les améliorations de précision étaient principalement pilotées par les FLOPs quantiques, tandis que les FLOPs classiques restaient relativement fixes en raison de conceptions de couches classiques contraintes.
  • Des compromis optimaux au sens de Pareto clairs existent entre la précision et le coût computationnel, prouvant qu'une haute performance ne nécessite pas les architectures les plus intensives en ressources.
  • Des seuils dépendant de l'ensemble de données existent où l'augmentation des FLOPs produit des rendements décroissants, soulignant le risque de circuits quantiques trop complexes.

Importance et affirmations

L'article soutient que la prochaine étape des progrès en QML nécessite un changement de paradigme, passant d'une conception heuristique et manuelle à la recherche d'architecture de réseaux neuronaux consciente du matériel (HANAS). En intégrant des contraintes computationnelles (proxies par les FLOPs) dans le processus de recherche, le cadre proposé permet de découvrir des HQNN qui sont non seulement précis, mais aussi computationnellement réalisables et évolutifs.

Les auteurs positionnent la NAS sensible aux FLOPs comme une étape cruciale vers une conception systématique des HQNN, en particulier pour les flux de travail basés sur la simulation à l'ère NISQ où la surcharge de ressources classiques constitue un goulot d'étranglement. Cependant, l'article maintient une portée modeste concernant ses affirmations :

• Il reconnaît que les FLOPs sont un proxy pour le coût de simulation et diffèrent des métriques au niveau matériel telles que le nombre de portes ou la profondeur des circuits.
• Il déclare explicitement que l'extension du cadre pour intégrer des contraintes au niveau du dispositif (telles que le bruit, la décohérence et la connectivité des qubits) reste un défi ouvert.
• Les auteurs envisagent que les futurs cadres HANAS doivent évoluer pour intégrer ces contraintes spécifiques au matériel quantique afin de combler le fossé entre la conception de modèles abstraits et les systèmes quantiques déployables.