How Much Reconstruction Does Quantum Machine Learning Need? Late Fusion of Independently Trained Quantum Subcircuits

Technische Samenvatting: Late Fusion van Onafhankelijk Getrainde Quantum Subcircuits

Probleemstelling
Variational Quantum Circuits (VQCs), of Quantum Neural Networks (QNNs), vereisen vaak meer qubits dan de huidige hardware betrouwbaar kan bieden. Circuit cutting lost dit op door een groot circuit te partitioneren in kleinere subcircuits die passen op beschikbare apparaten. Echter, de standaardmethode om deze subcircuits te combineren — exacte reconstructie via quasiprobability decomposition (QPD) — brengt een zware computationele straf met zich mee. Het reconstrueren van de verwachtingswaarden van het oorspronkelijke circuit vereist het draaien van een exponentieel aantal subexperimenten ($O(\gamma^{2k})$, waarbij $k$ het aantal sneden is en $\gamma$ een factor afhankelijk van het type poort). Empirische studies wijzen uit dat deze reconstructiestap de end-to-end runtime domineert (53–95%). De centrale vraag die wordt gesteld, is of deze dure, exacte reconstructie noodzakelijk is voor machine learning (ML) taken, of dat een goedkopere alternatief vergelijkbare nauwkeurigheid kan evenaren.

Methodologie
De auteurs stellen Late Fusion voor, een strategie aangepast uit de multimodale deep learning, om de stap met exponentiële kosten van de reconstructie te vervangen.

1. Onafhankelijke Training: In plaats van één groot circuit te trainen en dit post-hoc te snijden, wordt de QNN opgedeeld in subcircuits (bijv. registers $A$ en $B$). Deze subcircuits worden onafhankelijk getraind zonder gradiëntstroom over de snede heen. Elk subcircuit fungeert als een onafhankelijke "modaliteit" die een lokale meetkenmerkvector ($m_A, m_B$) produceert.
2. Klassieke Fusion Head: Een klein, trainbaar klassiek neuraal netwerk (de "fusion head") combineert de meetkenmerken van de subcircuits om de uiteindelijke voorspelling te produceren. Dit vervangt de vaste, gesigneerde quasiprobability som door een geleerde, lineaire functie die direct wordt geoptimaliseerd voor de taakverliesfunctie (task loss).
3. De Quantumness Dial ($Q$): Om de afruil tussen fusion en reconstructie te karakteriseren, introduceren de auteurs een instelbare parameter $Q \in [0, 1]$.
   • $Q=0$: Pure late fusion (geen reconstructietermen).
   • $Q=1$: Volledige exacte reconstructie.
   • $0 < Q < 1$: Een gedeeltelijke reconstructie waarbij alleen de termen met de hoogste magnitude van de QPD-som worden behouden en aan de fusion head worden gevoed. Dit maakt een gecontroleerde sweep van het reconstructiebudget mogelijk.
4. Cut-Entanglement Diagnostic: De auteurs introduceren een diagnostische metriek gebaseerd op de entanglement entropy ($S_A$) over de snede van het getrainde circuit. Gebaseerd op theoretische grenzen (Jing, Zhu, en Wang 2025), voorspelt deze metriek de "knik" in de $Q$-dial curve — wat aangeeft hoeveel reconstructie een specifieke taak daadwerkelijk vereist.

Belangrijkste Bijdragen

• Reconstructie–Fusion Continuüm: De introductie van de $Q$-dial, die een spectrum blootlegt tussen pure fusion en volledige reconstructie, waarbij wordt aangetoond dat de meeste ML-taken weinig tot geen reconstructiebudget vereisen.
• Diagnostisch Instrument: Een cut-entanglement metriek die correleert met het optimale reconstructiebudget (Spearman $\rho=0.59$), waardoor beoefenaars de benodigde middelen kunnen schatten zonder uitputtende sweeps.
• Efficiënt Trainingsprotocol: Een methode voor het trainen van QNN's waarbij subcircuits onafhankelijk worden geoptimaliseerd, enkel gekoppeld door een klassieke head, wat de cross-cut gradiëntstroom elimineert.
• Regime Mapping: Een empirische karakterisering die aantoont dat late fusion de nauwkeurigheid van volledige reconstructie evenaart bij taken met lokale informatie, maar faalt precies waar de theorie dat voorspelt (bij echt verstrengelde data).

Resultaten
Het paper presenteert uitgebreide simulaties en beperkte hardwarevalidatie (IBM Heron/FakeManilaV2) over synthetische en standaard datasets (Iris, Breast-Cancer, Moons, Circles, Fashion-MNIST, MNIST):

• Nauwkeurigheid vs. Kosten: Onafhankelijk getrainde late fusion evenaart de nauwkeurigheid van volledige reconstructie binnen 0.04 (vaak binnen 0.01) op alle klassieke benchmarks, maar tegen een exponentieel lagere kosten. Terwijl de reconstructie overhead groeit als $9^k$ (voor CNOT-snedes), blijft de fusion overhead constant ($O(1)$ ten opzichte van snedes).
• Ruisrobuustheid: Late fusion is aanzienlijk robuuster tegen shot noise en device noise. De gesigneerde som van reconstructie versterkt de variantie met een factor $\gamma^2$, terwijl fusion-kenmerken enkelvoudige subcircuit-metingen zijn. Bij simulaties op echte apparaten behield fusion een hoge nauwkeurigheid waar de reconstructiefout explodeerde door de benodigde shot budget voor het enorme aantal subexperimenten.
• De Grens van Falen: Gecontroleerde experimenten met verstrengelde data (waarbij labels afhangen van cross-cut correlatoren) laten zien dat fusion faalt wanneer de taakinformatie niet-lokaal is. In deze regimes daalt de fusion-nauwkeurigheid naar het niveau van toeval, terwijl reconstructie accuraat blijft, wat de theoretische noodzaak van reconstructie bevestigt voor niet-lokale informatie.
• Schaalbaarheid: Fusion maakt training op grotere schaal mogelijk (tot 20 qubits, 10 snedes), waar exacte reconstructie onhaalbaar wordt door de "barren plateau" en exponentiële samplingkosten. Bij $n=16$ en $n=20$ traint fusion in minuten, terwijl de ongesneden referentie niet convergeert of de computationele limieten overschrijdt.
• Vergelijking met Klassieke ML: De auteurs merken expliciet op dat getunede klassieke modellen op standaard datasets de quantummodellen evenaren of overtreffen. De waarde van late fusion is niet een quantumvoordeel ten opzichte van klassieke ML, maar een efficiëntiewinst binnen de QML-pipeline vergeleken met exacte reconstructie.

Betekenis en Claims
Het paper claimt dat late fusion een efficiënt, ruisrobuust en zelfkarakteriserend alternatief is voor reconstructie voor circuit-cutting QML.

• Bescheiden Claims: De auteurs claimen geen quantumvoordeel over klassieke machine learning. Ze stellen dat "quantum geen nauwkeurigheidsvoordeel biedt op deze datasets."
• Kernwaarde: De bijdrage is de precisie van de afweging. Het werk biedt de instrumenten (de $Q$-dial en de entanglement diagnostic) om te bepalen wanneer een QML-taak de dure reconstructiestap vereist en wanneer een goedkope fusion-benadering volstaat.
• Praktische Impact: Voor taken waar informatie lokaal is, vermijdt late fusion de "exponentiële muur" van reconstructie, wat gedistribueerde QNN-training op near-term hardware haalbaar maakt zonder de prohibitieve sampling overhead die momenteel de runtime domineert. De methode identificeert effectief waar de "quantumness" van een taak verspild wordt aan reconstructie en waar deze structureel noodzakelijk is.