Diversity-Aware Ensemble of Quantum-Classical Models via Combinatorial Fusion

In het opkomende veld van quantum machine learning proberen wetenschappers computers te leren problemen op te lossen met behulp van de vreemde regels van de kwantumfysica. In plaats van de standaard bits die in alledaagse computers worden gevonden, die ofwel nul of één zijn, gebruiken deze machines quantum bits, of qubits, die tegelijkertijd in veel verschillende toestanden kunnen bestaan. Om deze machines te laten leren, bouwen onderzoekers speciale circuits bestaande uit quantum gates. Dit zijn geen fysieke draden en schakelaars, maar eerder wiskundige instructies die de toestand van de qubits laten roteren en draaien. De uitdaging is dat er talloze manieren zijn om deze instructies te rangschikken. Net zoals een chefkok verschillende combinaties van specerijen kan proberen om een gerecht te perfectioneren, moeten onderzoekers de juiste rangschikking van gates kiezen om het beste resultaat te krijgen. Lange tijd was de standaardaanpak om door deze mogelijkheden te zoeken, het enkel beste ontwerp te kiezen en de rest weg te gooien. Deze methode gaat ervan uit dat er voor elke taak één perfecte architectuur bestaat en dat de andere ontwerpen slechts mislukte pogingen zijn.

Een nieuwe studie suggereert echter dat deze aanpak waardevolle informatie wegwerpt. De onderzoekers, werkend met een mix van quantum en klassieke computermodellen, stelden een andere vraag: wat als de ontwerpen die op zichzelf niet wonnen, nog steeds nuttige aanwijzingen bevatten? Ze stelden voor dat door veel verschillende ontwerpen te combineren, zelfs de imperfecte, de groep betere voorspellingen zou kunnen doen dan elk enkel model alleen zou kunnen. Dit idee rust op het concept van diversiteit. In een team is het hebben van leden die anders denken vaak krachtiger dan een groep identieke experts hebben. Als één persoon een fout maakt, ziet een ander misschien het antwoord duidelijk. De onderzoekers pasten deze logica toe op quantumcircuits, waarbij ze elk verschillend ontwerp behandelden als een uniek lid van een team. Ze gebruikten een methie genaamd combinatorial fusion analysis om te meten hoe verschillend elk model de data zag en combineerden vervolgens hun antwoorden. De resultaten toonden aan dat door te luisteren naar een diverse groep modellen in plaats van alleen de beste presteerder, het systeem aanzienlijk nauwkeuriger werd in het oplossen van complexe classificatietaken, wat bewees dat de collectieve wijsheid van vele verschillende benaderingen superieur is aan het eenzame genie van één enkele benadering.

Het team begon met het creëren van een grote pool van eenentwintig verschillende modellen om te testen. Deze groep bevatte twintig quantumcircuits met uiteenlopende structuren en negen klassieke modellen, zoals standaard machine learning-algoritmen en deep learning-netwerken. De quantumcircuits werden gebouwd met behulp van twee hoofdstrategieën. Ten eerste genereerden ze twaalf variaties op basis van een zoekproces dat verschillende manieren testte om de qubits te verbinden en hun toestanden te roteren. Ten tweede voegden ze acht zorgvuldig gekozen circuits toe die gebruikmaakten van geheel andere wiskundige bouwstenen, waarvan sommige geïnspireerd waren op hoe deeltjes in de natuur met elkaar interageren en andere op willekeurige patronen. Naast deze quantummodellen namen ze vertrouwde klassieke instrumenten op, zoals beslissingsbomen en support vector machines. Het doel was om te zien of het mengen van deze zeer verschillende soorten modellen een sterkere voorspeller zou creëren dan welke enkele methode dan ook op zichzelf zou kunnen bereiken.

Om te beslissen welke modellen te combineren, kozen de onderzoekers niet simpelweg de modellen met de hoogste scores. In plaats daarvan zochten ze naar modellen die van elkaar verschilden in hoe ze de data rangschikten. Ze gebruikten een maatstaf genaamd cognitieve diversiteit, die berekent in hoorde hoeveel twee modellen van mening verschillen over de volgorde van hun voorspellingen. Als twee modellen altijd overeenstemmen, zijn ze redundant; als ze op een gestructureerde manier van mening verschillen, zijn ze divers. Het team identificeerde de meest diverse paren modellen en selecteerde een kleine groep van vijf die het beste evenwicht boden tussen hoge prestaties en hoge diversiteit. Dit selectieproces zorgde ervoor dat het uiteindelijke team niet alleen een verzameling van de beste individuele presteerders was, maar een groep modellen die elkaars zwaktes aanvulden.

Zodra het team was geselecteerd, combineerden de onderzoekers hun voorspellingen met behulp van twee hoofdmethoden. De eerste methode middelde de ruwe scores die elk model gaf, terwijl de tweede methode hun rangschikkingen middelde. Ze testten verschillende manieren om deze combinaties te wegen, waarbij ze soms meer belang hechen aan modellen die diverser waren, en op andere tijden prioriteit gaven aan modellen die individueel het best presteerden. Ze testten dit systeem op vier verschillende real-world datasets, variërend van medische dossiers die worden gebruikt voor het diagnosticeren van hartziekten en diabetes tot radarsignalen en spamfilters voor e-mail. In elk geval presteerde het gecombineerde model beter dan het beste individuele model uit de pool.

De verbeteringen waren aanzienlijk. Op de dataset voor het voorspellen van hartziekten verbeterde het gecombineerde model de nauwkeurigheid met 3,38 procent vergeleken met het beste enkele model. Voor de diabetesdataset was de winst nog groter en bereikte deze 6,03 procent. In het geval van de ionosfeer-radar-data bereikte het gecombineerde systeem een nauwkeurigheid van 98,11 procent, een aanzienlijke sprong ten opzichte van de 94,34 procent die door het beste enkele model werd behaald. Zelfs bij de spamdetectie-taak, waar de modellen al erg goed waren, slaagde de fusiemethode er nog steeds in om een extra verbetering van 0,58 procent te realiseren. Deze resultaten hielden stand, zelfs toen de onderzoekers hun methode vergeleken met andere recente studies die ensembles of hybride quantum-klassieke benaderingen gebruikten. Hun methode produceerde consequent de hoogste scores over alle vier de datasets.

De studie onthulde ook dat de meest succesvolle teams bijna altijd een mix waren van quantum en klassieke modellen. In sommige gevallen bevatte de beste combinatie een specifiek quantumcircuit dat bekend staat om zijn boomachtige structuur, gekoppeld aan een klassiek boosting-algoritme. In andere gevallen werkte een quantumcircuit geïnspireerd door optimalisatie-algoritmen het best samen met een neuraal netwerk. Dit suggereert dat quantummodellen en klassieke modellen de wereld op fundamenteel verschillende manieren zien, en dat hun verschillen juist zijn wat hen zo krachtig maakt wanneer ze worden gecombineerd. Het onderzoek laat zien dat de weg naar betere quantum machine learning mogelijk niet ligt in het vinden van het enkel perfecte circuitontwerp, maar in het leren hoe je de diverse sterktes van vele verschillende ontwerpen die samenwerken effectief kunt benutten. Door de zoektocht naar het beste model te behandelen als een zoektocht naar het beste team, hebben de onderzoekers een nieuwe manier aangetoond om het potentieel van quantum computing te ontsluiten.