Classical $\mathrm{SU}(2)$ Models Match or Exceed Shallow Variational Quantum Circuits on Vision Benchmarks

Technische Samenvatting: Klassieke SU(2)-modellen versus Shallow Variational Quantum Circuits

Probleemstelling
Het artikel adresseert een gat in het begrip van de relatieve prestaties van quaternion-waardige neurale netwerken (QuatNets) en variationele kwantumcircuits (VQC's) op klassieke supervised learning-taken. Beide architecturen afleiden lokale transformaties uit de geometrie van de speciale unitaire groep SU(2): QuatNets maken gebruik van eenheidsequaternions om rotaties in een 4D reële ruimte te parametriseren, terwijl VQC's gebruikmaken van single-qubit gates afkomstig uit SU(2) binnen een Hilbertruimte. Ondanks deze gedeelde lokale geometrische structuur, blijft het onduidelijk of de kwantumspecifieke kenmerken van VQC's—specifiek verstrengeling (entanglement) en meting-geïnduceerde toestandsinstorting—een praktisch voordeel bieden ten opzien van klassieke SU(2)-modellen op standaard beeldclassificatie-benchmarks. De auteurs beogen te bepalen of klassieke SU(2)-structuren het leergedrag van shallow kwantumcircuits kunnen reproduceren en in welke mate verstrengeling bijdraagt aan de prestaties over variërende kwaliteiten van kenmerken (features).

Methodologie
De auteurs hebben een gecontroleerd vergelijkingskader geconstrueerd met behulp van drie standaard beelddatasets: MNIST, FashionMNIST en CIFAR-10. Om de inductieve bias van de classificatiekoppen te isoleren van de capaciteiten voor feature-extractie, maakte de studie gebruik van twee verschillende regimes waarbij de feature-representaties bevroren waren:

1. Learned Bottleneck: Een gedeelde, laag-capaciteit feature-extractor die inputs naar een 16-dimensionale vector brengt (voor alle datasets).
2. Frozen Pretrained Features: Voor CIFAR-10 werden 512-dimensionale embeddings van een bevroren ImageNet-pre-trained ResNet18-backbone gebruikt.

Vier classificatiekop-architecturen werden geëvalueerd op deze identieke bevroren features:

• RealNet: Een standaard reële meerlaagse perceptron (MLP) die dient als baseline.
• QuatNet: Een quaternion-waardige MLP die reële operaties vervangt door Hamilton-producten met eenheidsequaternions, waarbij de SU(2)-structuur behouden blijft.
• Quantum-NoEnt: Een diepte-3 Variational Quantum Circuit (VQC) met data re-uploading maar zonder verstrengeling (producttoestand).
• Quantum-Ent: Een diepte-3 VQC die identiek is aan de bovenstaande, maar inclusief een ring van CNOT-gates om verstrengeling te introduceren.

De kwantumcircuits werden geschaald naar 4 qubits voor de 16D bottleneck en 8 qubits voor het 512D ResNet18-regime. Training maakte gebruik van de Adam-optimizer met cross-entropy loss. Om optimalisatieproblemen aan te pakken, omvatte de studie ook diagnostiek waarbij Adam werd vergeleken met Fubini–Study/Quantum Fisher Information (FS/QFI) natuurlijke gradiëntmethoden. Robuustheid werd beoordeeld via meerdere willekeurige seeds (tot vijf voor MNIST) en experimenten met schaling van steekproefomvang.

Belangrijkste Bijdragen

1. Prestatie-equivalentie van Klassieke SU(2)-Modellen: De studie toont aan dat quaternion-netwerken consistent de prestaties van reële baselines evenaren of nauw benaderen, terwijl ze aanzienlijk minder trainbare parameters gebruiken (bijv. 1.000 versus 1.738 parameters op MNIST).
2. Onderpresterende Shallow VQC's: Shallow kwantumclassifiers (zowel verstrengeld als niet-verstrengeld) presteren consistent slechter dan quaternion-netwerken over alle datasets en feature-regimes heen.
3. Omkering van Verstrengelingsvoordelen: De bijdrage van verstrengeling is niet uniform; het biedt bescheiden winsten (ongeveer 0,6 procentpunt) op eenvoudige grayscale-datasets (MNIST, FashionMNIST), maar veroorzaakt substantiële prestatiedegradatie (ongeveer 9,25 procentpunt) op CIFAR-10 wanneer hoogwaardige pre-trained ResNet18-features worden gebruikt.
4. Optimalisatie-diagnostiek: Het artikel levert bewijs dat het prestatieverschil niet uitsluitend te wijten is aan de keuze van de optimizer. Hoewel FS/QFI-methoden de geometrische uitlijning verbeteren, leiden ze niet tot een materiële verbetering van de loss-reductie op de korte termijn vergeleken met Adam, wat suggereert dat de beperkingen architecturaal van aard zijn en niet louter gebaseerd op optimalisatie.

Resultaten

• MNIST & FashionMNIST: QuatNet bereikte bijna-equivalentie met RealNet (bijv. 93,64% versus 93,54% op MNIST). Beide kwantumvarianten bleven aanzienlijk achter, met Quantum-NoEnt op 87,52% en Quantum-Ent op 88,16%. Verstrengeling bood slechts marginale verbeteringen ten opzien van de producttoestand-circuit.
• CIFAR-10 (Learned Bottleneck): QuatNet behield 94,3% van de prestaties van RealNet (37,92% versus 40,23%). Kwantummodellen presteerden slechter (35,10% en 34,92%).
• CIFAR-10 (Frozen ResNet18): Met rijkere features werd het prestatieverschil groter. QuatNet behield 97,2% van de nauwkeurigheid van RealNet (45,81% versus 47,13%). In contrast presteerde Quantum-Ent daarentegen met 32,46%, wat 9,25 procentpunt slechter is dan de niet-verstrengelde variant (41,71%).
• Stabiliteit en Kosten: Kwantummodellen vertoonden een aanzienlijk hogere variantie over de seeds en vereisten orders van grootte meer computationele tijd (bijv. ~36.000 seconden per seed voor Quantum-Ent versus ~77 seconden voor QuatNet op MNIST). Quantum-Ent vertoonde niet-monotoon schaalgedrag naarmate de steekproefomvang toenam, terwijl QuatNet stabiel bleef.
• Statistische Significantie: Een Friedman-test op de vijf-seed MNIST-evaluatie bevestigde een niet-willekeurige modelvolgorde ($\chi^2 = 12,796, p = 0,0051$). Post-hoc testen leverden grote effectgroottes op ($d > 5$) voor de vergelijking tussen QuatNet en de kwantummodellen.

Betekenis en Claims
Het artikel concludeert dat op klassieke visie-benchmarks die geen intrinsieke kwantumstructuur bezitten, gedeelde lokale SU(2)-geometrie onvoldoende is om een praktisch kwantumvoordeel te bieden. De bevindingen suggereren dat:

• Klassieke Alternatieven: Quaternion-netwerken dienen als efficiënte, stabiele en parameter-efficiënte klassieke baselines die dezelfde lokale geometrische structuur delen als single-qubit kwantumgates, waarmee ze de reële modellen effectief "matchen" terwijl ze de shallow VQC's overtreffen.
• Beperkingen van Shallow Verstrengeling: Binnen het bestudeerde shallow circuit-regime (diepte-3) en de meting-beperkte settings, leidt verstrengeling niet betrouwbaar tot verbeterde prestaties. In plaats daarvan kan het de optimalisatie-instabiliteit en de door meting geïnduceerde informatie-bottlenecks versterken, vooral wanneer het interacteert met rijke klassieke representaties.
• Reikwijdte van Claims: De auteurs kaderen hun conclusies expliciet binnen de context van shallow, meting-beperkte variationele circuits werkend op klassieke beeldgegevens. Zij beweren niet dat kwantum-machine learning onmogelijk is of dat diepere circuits, andere ansatzes of kwantum-native data geen voordelen zouden opleveren. Echter, voor het specifieke regime van claims over nabije kwantumvoordelen op klassieke visietaken, betogen de auteurs dat gedeelde SU(2)-geometrie en shallow verstrengeling geen voldoende voorwaarden zijn voor superioriteit ten opzien van klassieke tegenhangers.