Fourier Analysis of Variational Quantum Circuits for Supervised Learning

Technische Samenvatting: Fourier-analyse van Variational Quantum Circuits voor Supervised Learning

Probleemstelling
Variational Quantum Circuits (VQC's) worden steeds vaker ingezet als functie-benaderers in supervised learning. Hoewel het vaststaat dat de output van een VQC kan worden gerepresenteerd als een afgekorte Fourier-som van de inputdata, wordt vaak aangenomen dat de set beschikbare frequenties (het spectrum) uitsluitend wordt bepaald door de encoding-gates. De auteurs identificeren een cruciale beperking in deze aanname: het variationele deel van het circuit kan specifieke Fourier-coëfficiënten op nul zetten, waardoor frequenties die op basis van de encoding alleen theoretisch beschikbaar zouden zijn, effectief uit het spectrum worden verwijderd. Bov�aling is de functionele afhankelijkheid van deze Fourier-coëfficiënten van de variationele parameters grotendeels onontgonnen gebleven. Dit gebrek aan precieze spectrale karakterisering belemmert de mogelijkheid om te voorspellen welke VQC-architectuur het meest geschikt is voor een specifieke dataset zonder volledige training uit te voeren.

Methodologie
De auteurs stellen een tweeledige methodologische aanpak voor:

1. Exacte Spectrum- en Coëfficiëntberekening:
   Gebouwend op het algoritme van Nemkov et al. [18], ontwikkelen de auteurs een procedure om het exacte Fourier-spectrum en de coëfficiënten voor elke gegeven VQC (specifiek die transpileerbaar zijn naar Clifford + Pauli-circuits) te berekenen.

• Algoritme: De methode maakt gebruik van een binaire boomconstructie waarbij knopen circuits in een canonieke normale vorm representeren. Door paden door deze boom te doorlopen en de bijbehorende trigonometrische factoren van Pauli-rotaties te vermenigvuldigen, deconstrueert het algoritme de verwachtingswaarde tot een som van trigonometrische polynomen.
• Coëfficiëntanalyse: De auteurs leiden af dat Fourier-coëfficiënten trigonometrische polynomen zijn van de variationele parameters $\theta$. Ze stellen noodzakelijke en voldoende voorwaarden vast waaronder de combinatorische delen van deze coëfficiënten verdwijnen, wat de identificatie mogelijk maakt van frequenties die, ongeacht de parameterwaarden, strikt nul zijn.
• Data-analyse: Om het spectrum van een circuit met een dataset te vergelijken, gebruiken de auteurs de Non-uniform Fast Fourier Transform (NFFT) via iteratieve numerieke inversie. Dit maakt de extractie van frequentie-representaties uit niet-uniform gespatieerde, reële data mogelijk.

2. Architectuur Rangschikkingsheuristiek:
   De auteurs stellen een dataset-bewuste methode voor om VQC-architecturen te rangschikken zonder training. De kernhypothese is dat een optimale architectuur de dominante frequenties van de dataset moet bevatten, terwijl het de omvang van het spectrum klein genoeg moet houden om trainbaarheid te waarborgen (het adresseren van de expressiviteit-trainbaarheid trade-off).

• Score-metriek: Een score wordt berekend op basis van drie componenten:
  • $R_\Omega$: De energie van de Fourier-coëfficiënten van de dataset die buiten het beschikbare spectrum van de VQC liggen.
  • $R_{corr}$: Een Mahalanobis-afstand heuristiek die de waarschijnlijkheid inschat waarmee de variationele parameters de specifieke correlaties en magnituden van de Fourier-coëfficiënten van de dataset kunnen reproduceren.
  • $R_{punish}$: Een strafterm die proportioneel is aan de omvang van het spectrum, wat overly expressieve maar potentieel ontrainbare architecturen ontmoedigt.
• De architectuur met de laagste totale score wordt voorspeld de beste fit voor de data te hebben.

Belangrijkste Bijdragen

• Verfijnde Spectrale Karakterisering: Het artikel toont aan dat het Fourier-spectrum van een VQC niet enkel wordt bepaald door de encoding-gates, maar significant wordt beperkt door de variationele lagen. Dit corrigeert de overschatting van beschikbare frequenties gevonden in eerdere literatuur [16].
• Functionele Afhankelijkheid: De auteurs bieden de eerste beschrijving van Fourier-coëfficiënten als expliciete trigonometrische polynomen van de variationele parameters, inclusief een algoritme om het exacte spectrum en de coëfficiënten voor elk gegeven circuit te berekenen.
• Voorspellende Architectuurselectie: Een nieuw algoritme wordt geïntroduceerd dat de best passende VQC-architectuur voor een gegeven dataset voorspelt door de Fourier-transformatie van de dataset te vergelijken met het analytisch afgeleide spectrum van kandidaat-circuits.

Resultaten
De auteurs hebben hun methoden getest op elf verschillende VQC-architecturen met behulp van twee datasets: de synthetische Friedman regressiefunctie en de MNIST handgeschreven cijferdataset (gereduceerd tot 2D via t-SNE).

• Spectrale Variabiliteit: Ondanks het gebruik van identieke encoding-gates over alle architecturen, varieerden de resulterende Fourier-spectra aanzienlijk, variërend van 7 tot meer dan 6.000 frequenties. Dit bevestigde dat de variationele lagen het spectrum actief snoeien.
• Rangschikkingsprestaties: De voorgestelde score-methode identificeerde succesvol architecturen (specifiek circuits 2, 7 en 9) die de laagste testverliezen op de Friedman-dataset bereikten en competitief presteerden op de MNIST-dataset.
• Beperkingen: De studie merkte op dat hoewel de heuristiek over het algemeen correleerde met de prestaties, de $R_{corr}$-term (gebaseerd op een subset van coëfficiënten) soms er niet in slaagde om perfect onderscheid te maken tussen architecturen met vergelijkbare spectrale eigenschappen maar verschillende interne coëfficiëntcorrelaties. Daarnaast schaalt de computationele kosten voor het berekenen van het volledige spectrum exponentieel met de circuitdiepte, wat de huidige proof-of-concept beperkt tot kleine circuits (4 qubits, 3 lagen).

Betekenis en Claims
Het artikel claimt het eerste algoritme te bieden dat in staat is de exacte functionele relatie tussen variationele parameters en Fourier-coëfficiënten te bepalen. Door te onthullen dat het variationele deel van een circuit het spectrum beperkt, betogen de auteurs dat VQC's specifiek voor een taak moeten worden ontworpen in plaats van simpelweg de expressiviteit te maximaliseren. De voorgestelde methode biedt een klassiek simulatietool om de prestaties van modellen te voorspellen en architecturen te selecteren, wat potentieel de computationele middelen bespaart die nodig zijn voor het trainen van suboptimale modellen. De auteurs merken echter bescheiden op dat hun methode momenteel beperkt is tot kleine circuits vanwege de exponentiële schaling van klassieke simulatie en dat de rangschikkingsheuristiek, hoewel veelbelovend, verdere verfijning vereist wat betreft de weging van de componenten.