Diversity-Aware Ensemble of Quantum-Classical Models via Combinatorial Fusion

Dans le domaine émergent de l'apprentissage automatique quantique, les scientifiques tentent d'apprendre aux ordinateurs à résoudre des problèmes en utilisant les règles étranges de la physique quantique. Au lieu des bits standards que l'on trouve dans les ordinateurs de tous les jours, qui sont soit zéro, soit un, ces machines utilisent des bits quantiques, ou qubits, qui peuvent exister dans de nombreux états à la fois. Pour faire apprendre ces machines, les chercheurs construisent des circuits spéciaux composés de portes quantiques. Il ne s'agit pas de fils et d'interrupteurs physiques, mais plutôt d'instructions mathématiques qui font pivoter et tordent l'état des qubits. Le défi est qu'il existe d'innombrables façons d'organiser ces instructions. Tout comme un chef pourrait essayer différentes combinaisons d'épices pour perfectionner un plat, les chercheurs doivent choisir la bonne disposition de portes pour obtenir le meilleur résultat. Pendant longtemps, l'approche standard a consisté à chercher parmi ces possibilités, à choisir le design unique le plus performant et à écarter les autres. Cette méthode suppose qu'une architecture parfaite existe pour chaque tâche, et que les autres designs ne sont que des tentatives ratées.

Cependant, une nouvelle étude suggère que cette approche pourrait jeter des informations précieuses. Les chercheurs, travaillant avec un mélange de modèles informatiques quantiques et classiques, ont posé une question différente : et si les designs qui n'ont pas gagné seuls contenaient tout de même des indices utiles ? Ils ont proposé qu'en combinant de nombreux designs différents, même les imparfaits, le groupe pourrait faire de meilleures prédictions que n'importe quel modèle seul. Cette idée repose sur le concept de diversité. Dans une équipe, avoir des membres qui pensent différemment est souvent plus puissant que d'avoir un groupe d'experts identiques. Si une personne commet une erreur, une autre pourrait voir la réponse clairement. Les chercheurs ont appliqué cette logique aux circuits quantiques, traitant chaque design différent comme un membre unique d'une équipe. Ils ont utilisé une méthode appelée analyse de fusion combinatoire pour mesurer à quel point chaque modèle percevait les données différemment, puis ont combiné leurs réponses. Les résultats ont montré qu'en écoutant un groupe diversifié de modèles plutôt que le seul performant, le système devenait nettement plus précis pour résoudre des tâches de classification complexes, prouvant que la sagesse collective de nombreux approches différentes est supérieure au génie solitaire d'un seul.

L'équipe a commencé par créer un large réservoir de vingt-neuf modèles différents pour les tester. Ce groupe comprenait vingt circuits quantiques avec diverses structures et neuf modèles classiques, tels que des algorithmes d'apprentissage automatique standard et des réseaux d'apprentissage profond. Les circuits quantiques ont été construits en utilisant deux stratégies principales. Premièrement, ils ont généré douze variations basées sur un processus de recherche testant différentes façons de connecter les qubits et de faire pivoter leurs états. Deuxièmement, ils ont ajouté huit circuits soigneusement choisis utilisant des blocs de construction mathématiques entièrement différents, certains inspirés par la façon dont les particules interagissent dans la nature et d'autres basés sur des motifs aléatoires. Aux côtés de ces modèles quantiques, ils ont inclus des outils classiques familiers comme les arbres de décision et les machines à vecteurs de support. L'objectif était de voir si le mélange de ces types de modèles très différents créerait un prédicteur plus fort que n'importe lequel d'entre eux seul.

Pour décider quels modèles combiner, les chercheurs n'ont pas simplement choisi ceux ayant les scores les plus élevés. Au lieu de cela, ils ont cherché des modèles qui étaient différents les uns des autres dans leur façon de classer les données. Ils ont utilisé une mesure appelée diversité cognitive, qui calcule à quel point deux modèles sont en désaccord sur l'ordre de leurs prédictions. Si deux modèles sont toujours d'accord, ils sont redondants ; s'ils sont en désaccord de manière structurée, ils sont divers. L'équipe a identifié les paires de modèles les plus diverses et en a sélectionné un petit groupe de cinq offrant le meilleur mélange de haute performance et de haute diversité. Ce processus de sélection a permis de s'assurer que l'équipe finale n'était pas seulement une collection des meilleurs performeurs individuels, mais un groupe de modèles qui se complétaient dans leurs faiblesses.

Une fois l'équipe sélectionnée, les chercheurs ont combiné leurs prédictions en utilisant deux méthodes principales. La première méthode faisait la moyenne des scores bruts donnés par chaque modèle, tandis que la seconde faisait la moyenne de leurs classements. Ils ont testé plusieurs façons de pondérer ces combinaisons, donnant parfois plus d'importance aux modèles qui étaient plus diversifiés, et d'autres fois privilégiant ceux qui performaient le mieux individuellement. Ils ont testé ce système sur quatre jeux de données réels, allant de dossiers médicaux utilisés pour diagnostiquer des maladies cardiaques et le diabète à des signaux radar et des filtres anti-spam d'e-mails. Dans chaque cas, le modèle combiné a surpassé le meilleur modèle individuel du réservoir.

Les améliorations ont été substantielles. Sur le jeu de données pour la prédiction des maladies cardiaques, le modèle combiné a amélioré la précision de 3,38 % par rapport au meilleur modèle individuel. Pour le jeu de données sur le diabète, le gain était encore plus important, atteignant 6,03 %. Dans le cas des données radar de l'ionosphère, le système combiné a atteint une précision de 98,11 %, un bond significatif par rapport aux 94,34 % obtenus par le meilleur modèle individuel. Même sur la tâche de détection de spam, où les modèles étaient déjà très bons, la méthode de fusion a tout de même réussi à extraire une amélioration supplémentaire de 0,58 %. Ces résultats se sont vérifiés même lorsque les chercheurs ont comparé leur méthode à d'autres études récentes utilisant des ensembles ou des approches hybrides quantiques-classiques. Leur méthode a systématiquement produit les scores les plus élevés sur les quatre jeux de données.

L'étude a également révélé que les équipes les plus fructueuses étaient presque toujours un mélange de modèles quantiques et classiques. Dans certains cas, la meilleure combinaison comprenait un circuit quantique spécifique connu pour sa structure arborescente associé à un algorithme de boosting classique. Dans d'autres cas, un circuit quantique inspiré par des algorithmes d'optimisation fonctionnait mieux aux côtés d'un réseau neuronal. Cela suggère que les modèles quantiques et les modèles classiques perçoivent le monde de manières fondamentalement différentes, et que leurs différences sont ce qui les rend si puissants lorsqu'ils sont combinés. La recherche démontre que la voie vers un meilleur apprentissage automatique quantique ne réside peut-être pas dans la recherche du design de circuit parfait, mais dans l'apprentissage de la manière d'exploiter efficacement les forces diverses de nombreux designs travaillant ensemble. En traitant la recherche du meilleur modèle comme la recherche de la meilleure équipe, les chercheurs ont montré une nouvelle façon de libérer le potentiel de l'informatique quantique.