QSTAR: Quantum Selective Transfer with Adaptive Routing

Technische Samenvatting: QSTAR – Quantum Selective Transfer met Adaptieve Routing

Probleemstelling
Huidige evaluaties van Quantum Transfer Learning (QTL) behandelen de kwantumcomponent doorgaans als een vaste, universele vervanging voor de uiteindelijke klassieke classifier. In deze standaardopstelling wordt elke input-sample verwerkt door een variational quantum circuit (VQC), ongeacht of de onderliggende klassieke feature extractor al een hoge mate van zekerheid heeft in zijn voorspelling. Deze aanpak verhult twee kritieke problemen:

1. Afhankelijkheid van Circuitontwerp: De prestaties van QTL zijn sterk gevoelig voor architecturale keuzes (bijv. encoding, ansatz-topologie, diepte, qubit-aantal), wat het moeilijk maakt om de werkelijke bruikbaarheid van kwantummechanica te isoleren van andere factoren zoals de pre-trained backbone of het optimalisatieschema.
2. Onduidelijke Bruikbaarheid: Het blijft een open vraag wanneer een kwantumtak daadwerkelijk voordelig is. Door kwantum-inferentie op alle samples af te dwingen, falen studies in te bepalen of winst voortkomt uit de kwantumaard van het model of simpelweg door de aanwezigheid van extra trainbare parameters.

Methodologie: QSTAR-framework
De auteurs stellen QSTAR (Quantum Selective Transfer with Adaptive Routing) voor, een framework dat de kwantumtak herdefinieert als een conditionele fallback in plaats van een universele vervanging. Het systeem werkt als volgt:

• Architectuur: De pipeline gebruikt een bevroren, op ImageNet pre-trained ResNet18 backbone om feature vectoren ($z_i \in \mathbb{R}^{512}$) te extraheren. Deze features worden gecomprimeerd via een trainbare laag ($h_i \in \mathbb{R}^d$, waarbij $d=8$) voordat classificatie plaatsvindt.
• Adaptieve Routing: Een primaire klassieke classifier genereert betrouwbaarheidsscores ($s_i$). Een drempelwaarde ($\tau$) bepaalt de routing-beslissing:
  • Als $s_i \geq \tau$ (hoge betrouwbaarheid), behoudt de sample de klassieke voorspelling.
  • Als $s_i < \tau$ (lage betrouwbaarheid), wordt de sample gerouteerd naar een fallback-tak.
• Fallback-takken: De studie vergelijkt drie soorten heads onder identieke data-splitsingen en optimalisatieschema's:
  1. Lineaire Klassieke Head: Een lichtgewicht baseline.
  2. Parameter-Matched MLP: Een niet-lineaire klassieke fallback die overeenkomt met het totaal aantal trainbare parameters van het adaptieve systeem.
  3. Kwantum Heads:
     • Handmatig Ontworpen: Standaard templates met variërende qubit-aantallen en dieptes.
     • KetGPT-Ontworpen: Circuits met topologieën, gate-sequenties en verstrengelingsstructuren overgenomen uit de KetGPT architectuur-zoekdataset.
• Resource Evaluatie: Het systeem houdt de "gerouteerde fractie" ($R(\tau)$) bij, die het percentage samples vertegenwoordigt dat naar de kwantumtak wordt gestuurd. Dit maakt een nauwkeurigheid-resource trade-off analyse mogelijk, waarbij de gemiddelde shot-kosten worden berekend als $\bar{S}(\tau) = R(\tau) \times S$ (waarbij $S$ de shots per inferentie is).

Belangrijkste Bijdragen

1. Selectief Routing Framework: Introductie van QSTAR, dat de kwantumtak alleen activeert voor samples met een lage betrouwbaarheid, waardoor de uitdagingen van circuitontwerp worden gescheiden van de beoordeling van de kwantum-utiliteit.
2. Architectuurzoek Evaluatie: Een vergelijkende studie van handmatig ontworpen QTL-heads versus KetGPT-gezochte heads onder een bevroren backbone setup.
3. Gecontroleerde Baselines: Een rigoureuze vergelijking van de kwantum fallback tegenover een parameter-matched MLP fallback, om het effect van het kwantumcircuit zelf te isoleren.
4. Ablatie-studies: Identificatie van compacte, hoogpresterende circuit-kandidaten (bijv. KetGPT #160) die sterke resultaten behalen met minimale resources.

Resultaten
De experimenten werden uitgevoerd op de Fashion-MNIST dataset (en een generalisatiecheck op Ants & Bees).

• Fixed-Head Prestaties:

  • Handmatig ontworpen QTL-heads vertoonden een hoge sensitiviteit voor configuratie, met accuratessen variërend van 36,1% tot 57,0%.
  • KetGPT-gezochte heads presteerden significant beter dan de handmatige ontwerpen. De sterkste kandidaat in de hoofdsweep (KetGPT #180) bereikte 78,5% accuratesse (0,785 F1-score), een verbetering van 21,5 procentpunt ten opzichte van de beste standaard QTL-baseline.
  • Echter, de sterkste vaste klassieke head (Linear) bleef superieur met 81,6% accuratesse, wat suggereert dat een universele kwantumvervanging nog niet optimaal is.

• Bruikbaarheid van Low-Confidence Fallback:

  • Op samples die gerouteerd werden vanwege lage betrouwbaarheid, presteerde KetGPT #180 consistent beter dan de parameter-matched MLP fallback.
  • Bij een routing-drempel van $\tau=0,70$, verbeterde KetGPT #180 de accuratesse met 6,82 procentpunt ten opzichte van de MLP fallback (61,62% vs. 54,80%).
  • Verbeteringen hielden aan bij hogere drempels ($\tau=0,80$ en $0,90$), met winsten van respectievelijk 4,31 en 3,03 procentpunt.

• Volledig Adaptief Systeem:

  • Het volledige Adaptieve KetGPT-QTL systeem bereikte 80,90% accuratesse en een 0,807 F1-score bij $\tau=0,70$, waarbij slechts 39,6% van de samples naar de kwantumtak werd gerouteerd.
  • Dit presteerde 2,70 procentpunt beter dan de adaptieve klassieke baseline (78,20% accuratesse) onder dezelfde routing-condities.
  • Resource Efficiëntie: Door slechts 39,6% van de samples te routeren, verminderde het systeem de gemiddelde kwantum shot-kosten tot 39,6 shots per sample terwijl de hoogste adaptieve accuratesse behouden bleef.

• Resource Ablatie:

  • Een aparte ablatie identificeerde KetGPT #160 als een superieure fixed-head kandidaat, die 81,90% accuratesse bereikte met slechts 10 kwantumparameters en 9 gates. Deze kandidaat was niet opgenomen in de hoofd-adaptieve routing experimenten, maar suggereert dat compacte, gezochte circuits zeer effectief zijn.

• Generalisatie Check:

  • Op de Ants & Bees dataset presteerde de kwantum head (77,78%) ondermaats vergeleken met de klassieke MLP (92,81%), wat bevestigt dat de kwantumtak niet universeel superieur is en het meest relevant is wanneer een betrouwbaarheidsmodel een specifieke subset van onzekere inputs identificeert.

Betekenis en Claims
Het paper concludeert dat architectuur-gezochte kwantum heads het meest effectief zijn, niet als uniforme vervangers voor klassieke classifiers, maar als gerichte fallback-takken voor onzekere inputs.

• Bescheiden Claims: De auteurs stellen expliciet dat het beste adaptieve kwantum systeem (80,90%) niet de prestaties overtreft van de sterkste vaste klassieke head (81,6%) of de beste resource-ablatie kwantum kandidaat (KetGPT #160 bij 81,90%).
• Kernwaarde: De betekenis van QSTAR ligt in het vermogen om het gebruik van kwantumresources te verminderen (door slechts ~40% van de samples te routeren) terwijl de adaptieve inferentie-accuratesse wordt verbeterd ten opzichte van een puur klassieke adaptieve baseline.
• Beperkingen: De auteurs merken op dat de resultaten gebaseerd zijn op een enkele seed zonder betrouwbaarheidsintervallen, wat betekent dat kleine prestatieverschillen niet als statistisch vastgesteld moeten worden beschouwd. Bovendien is de bruikbaarheid van het framework afhankelijk van het bestaan van een betekenisvolle subset van onzekere samples, zoals aangetoond door de gemengde resultaten op de Ants & Bees dataset.

Samenvattend biedt QSTAR een pragmatische route voor nabije-toekomst kwantummachine learning, waarbij kwantumcircuits worden gepositioneerd als gespecialiseerde instrumenten voor het afhandelen van moeilijke gevallen in plaats van algemene purpose classifiers.