Flexible Genetic Algorithm for Quantum Support Vector Machines

Technische Samenvatting: Flexibel Genetisch Algoritme voor Quantum Support Vector Machines

Probleemstelling
Quantum Support Vector Machines (QSVM) vormen een prominent kader binnen Quantum Machine Learning (QML) en bieden potentiële voordelen bij het verwerken van hoogdimensionale data via quantum feature maps. De prestaties van QSVM zijn echter sterk afhankelijk van het ontwerp van de geparametriseerde quantumcircuit (de feature map). Huidige benaderingen vertrouwen op vaste ansatzes (bijv. ZZFeatureMap, Hardware Efficient Embedding), die vaak niet in staat zijn om te generaliseren over diverse datasets. Deze vaste circuits worden geconfronteerd met twee primaire uitdagingen:

1. Trainbaarheidsproblemen: In hoogdimensionale feature-ruimtes kunnen kernelmatrices bijna uniform worden door de concentratie van inwendige producten, wat training bemoeilijkt.
2. Generalisatieproblemen: Overmatig expressieve circuits leiden vaak tot overfitting, analoog aan klassieke machine learning.
   Bovendien lijden bestaande Genetic Algorithm (GA) benaderingen voor het optimaliseren van QSVM-circuits aan beperkingen, waaronder een zware afhankelijkheid van specifieke benchmark-datasets, een gebrek aan normalisatiemechanismen om te waarborgen dat geëvolueerde oplossingen overeenkomen met de optimalisatiedoelstellingen, en de afwezigheid van goed gedefinieerde evolutionaire strategieën om de fitness over generaties heen te verbeteren.

Methodologie
De auteurs stellen GA-QSVM voor, een hybride framework dat Genetische Algoritmen integreert met QSVM om optimale quantum feature maps automatisch te ontdekken. De aanpak functioneert als een tweelaagse optimizer:

• Laagniveau: QSVM vindt de optimale hypervlak voor een gegeven circuit.
• Hoogniveau: GA zoekt naar de beste circuitstructuur (de feature map) om de classificatienauwkeurigheid te maximalen.

Belangrijke methodologische componenten zijn:

• Configureerbaar Framework: Het systeem maakt gebruik van een metadata-tuple ($M$) om evolutionaire parameters dynamisch te definiëren, inclus\u00zaand de fitnessfunctie, normalisator, generator en GA-operaties. Dit maakt een flexibele definitie van evolutionaire strategieën mogelijk.
• Verrijkte Gate Pool: In tegenstelling tot eerdere werken die beperkt waren tot 90-graden rotaties, gebruikt dit framework een flexibele pool van gates, waaronder $R_x(\theta)$, $R_y(\theta)$, $R_z(\theta)$, Hadamard ($H$) en CNOT ($CX$).
• Normalisatiemechanisme: Een cruciale innovatie is het afdwingen van normalisatiecondities tijdens de crossover- en mutatiefases. Het framework past middelen automatisch aan (bijv. het inkorten van circuits als de diepte een drempelwaarde overschrijdt, of het toevoegen van $CX$-gates als het aantal onder een vereiste count ligt) om de balans tussen circuit-expressiviteit en trainbaarheid te bewaren.
• Evolutionair Proces: De GA maakt gebruik van elitist selectie, one-point crossover en bit-flip mutatie. De fitness van elk kandidaat-circuit wordt geëvalueerd op basis van de classificatienauwkeurigheid van de QSVM die getraind is op een specifieke dataset.
• Kerneltypen: De studie evalueert zowel Fidelity Quantum Kernels (FQK) als Projected Quantum Kernels (PQK).

Belangrijkste Bijdragen

1. Geautomatiseerd Circuitontwerp: Het artikel introduceert een configureerbaar GA-framework dat het ontwerp van quantum feature maps automatiseert, waardoor men afstapt van handmatige, vaste-ansatz benaderingen.
2. Adaptieve Evolutionaire Strategieën: De voorgestelde methode adresseert de instabiliteit van eerdere GA-QSVM implementaties door het introduceren van normalisatiemechanismen en adaptieve strategieën die de circuitdiepte en het aantal gates dynamisch aanpassen.
3. Transfer Learning Capaciteit: Het framework demonstreert het vermogen om geleerde circuitstructuren (ansatzes) van de ene dataset naar een andere te transfereren, wat de computationele kosten van het her-optimaliseren voor nieuwe taken vermindert.
4. Uitgebreide Benchmarking: De auteurs bieden een vergelijkende analyse over vier datasets (Digits, Fashion, Wine, Breast Cancer), waarbij de prestaties worden geëvalueerd tegenover klassieke SVM's (RBF kernel) en standaard QSVM's met vaste feature maps.

Resultaten
Experimentele evaluaties op gesimuleerde quantumcircuits (gebruikmakend van Qiskit en Strawberry Fields/Squlearn) leverden de volgende bevindingen op:

• Nauwkeurigheid: GA-QSVM's behaalden een nauwkeurigheid die vergelijkbaar is met, en in sommige gevallen superieur aan, klassieke SVM's en standaard QSVM's. Specifiek in k-fold cross-validatie presteerden GA-QSVM's met zowel FQK als PQK kernels beter dan de klassieke RBF kernel.
• Circuitkenmerken: De GA slaagde erin om ondiepe circuits te evolueren die lokale rotaties en niet-lokale $CX$-gates combineren. FQK-geoptimaliseerde circuits neigden naar meer $CX$-gates, terwijl PQK-geoptimaliseerde circuits een balans vertoonden tussen lokale en niet-lokale gates.
• Hyperparameter Gevoeligheid: Diepere circuits ($d=20, 25$) en grotere populatieomvang ($n_{circuit}=16, 20$) leidden over het algemeen tot hogere en stabielere fitnesswaarden. Het aantal $CX$-gates en de mutatiekans hadden minder significante impact op de uiteindelijke nauwkeurigheid binnen de geteste bereiken.
• Transfer Learning: Wanneer een voor de complexe "Digits" dataset geoptimaliseerde ansatz werd getransfereerd naar de "Fashion" dataset, verbeterde de nauwkeurigheid aanzienlijk (bereikte 68,1% voor FQK), waarmee de klassieke SVM (65,7%) en standaard QSVM benaderingen werden overtroffen. Dit suggereert dat de geleerde ansatz rijkere feature-correlaties heeft gevangen.

Betekenis en Claims
Het artikel claimt dat evolutionaire strategieën aanzienlijk potentieel hebben voor het automatiseren en verbeteren van kernelontwerp in toekomstige quantum machine learning toepassingen. Door een flexibele metadata-configuratie en adaptieve zoektochten toe te staan, overwint GA-QSVM de beperkingen van handmatig ontworpen circuits. De auteurs benadrukken dat hun aanpak de kernel-expressiviteit verbetert en aantoont dat circuits getraind op de ene dataset effectief kunnen generaliseren over domeinen, wat potentieel de trainingstijd voor diverse taken vermindert.

De auteurs behouden echter een bescheiden toon met betrekking tot beperkingen. Ze erkennen dat het optimalisatieproces computationeel duur blijft door herhaalde kernel-evaluaties en dat de stochastische aard van GA kan leiden tot instabiliteit tussen verschillende runs. Bovendien is de schaalbaarheid beperkt op near-term devices naarmate het aantal qubits toeneemt, wat circuitzoektochten en -evaluaties moeilijker maakt. Toekomstig werk wordt gesuggereerd om zich te richten op multi-objective optimalisatie om gelijktijdig de nauwkeurigheid, de circuitdiepte en de entanglement-kosten te controleren.