QPredSGG: Hybrid Quantum Predicate Learning for Long-Tailed Scene Graph Generation

Dit artikel introduceert QPredSGG, een hybride quantum-klassiek framework dat de predicaatkop van een Causal Feature Enhancement Network vervangt door een efficiënte Quantum Predicate Head, waarmee state-of-the-art prestaties bereikt wordt op long-tail scene graph generatie door de modelcomplexiteit aanzienlijk te verminderen terwijl de mean recall op de Visual Genome 150 dataset wordt verbeterd.

De kern

Stel je voor dat je naar een drukke foto van een park kijkt. Een computer die deze afbeelding probeert te begrijpen, moet meer doen dan alleen zeggen: "Ik zie een persoon en een paard." De computer moet het verhaal begrijpen: "De persoon rijdt op het paard."

Deze taak wordt Scene Graph Generation genoemd. De computer bouft een kaart van de afbeelding waarbij objecten stippen zijn en hun relaties lijnen die hen verbinden.

Het Probleem: De "Populaire Kind"-bias

De paper wijst op een grote fout in de manier waarop computers momenteel leren om dit te doen. Ze worden getraind op een enorme dataset genaamd Visual Genome. In deze dataset zijn sommige relaties super algemeen (zoals "op", "van", of "in"), terwijl andere zeer zeldzaam maar specifiek zijn (zoals "dragen", "achtervolgen" of "schilderen op").

Denk aan een klas waar 90% van de leerlingen "Jan" heet. Als een leraar vraagt: "Wat is de meest voorkomende naam?", zullen de leerlingen bijna altijd "Jan" raden. Zelfs als er een leerling is genaamd "Zephyr" die eigenlijk de meest interessante is in de kamer, negeren de leerlingen hem omdat "Jan" veel frequenter is.

In de computerwereld betekent dit dat een AI heel goed wordt in het raden van veelvoorkomende relaties, maar rampzalig faalt bij de zeldzame, specifieke relaties. Dit wordt het Long-Tail Problem genoemd.

De Oplossing: Een Kwantum-"Specialist"

De auteurs van deze paper, Prerana Ramkumar en haar team, besloten iets nieuws te proberen. In plaats van een gigantisch, zwaar computerbrein te gebruiken om de uiteindelijke beslissing over relaties te nemen, vervingen ze dat deel door een kleine, Hybride Kwantumkop.

Hier is hoe ze dit deden, met behulp van een analogie:

1. Het Zware Werk (Klassiek deel): Stel je een zeer slimme, traditionele bibliothecaris voor (de "CFEN backbone") die het boek leest en het verhaal samenvat. Dit deel blijft hetzelfde. Het neemt de visuele informatie en creëert een lange, gedetailleerde samenvatting (4.096 getallen) over de relatie tussen twee objecten.
2. De Kwantumspecialist (Het Nieuwe Deel): In plaats van die lange samenvatting aan een gigantische, dure beslisser te geven, comprimeren ze het tot een kleine samenvatting van 16 getallen. Vervolgens voeren ze deze kleine samenvatting in een Kwantumcircuit.
   • Zie het Kwantumcircuit als een magisch filter of een specialistische lens. Het hoeft niet groot te zijn om te werken. Het gebruikt de vreemde regels van de kwantumfysica (zoals superpositie en verstrengeling) om naar die 16 getallen te kijken en te beslissen: "Is dit 'rijden op' of 'dragen'?"
3. Het Resultaat: De specialist doet een gok, en een kleine klassieke computer controleert dit.

Wat Ze Testten

De onderzoekers behandelden dit als een wetenschappelijk experiment om de perfecte "Kwantumspecialist" te vinden. Ze testten:

• Hoeveel "qubits" (kwantumbits) te gebruiken: Ze probeerden 4 en 8.
• Hoe de data te vertalen: Ze probeerden verschillende manieren om de getallen om te zetten in kwantumtoestanden (zoals "Angle Embedding" versus "Amplitude Embedding").
• Hoe complex het circuit moest zijn: Ze testten circuits met verschillende aantallen lagen.

De Grote Winsten

Dit is wat ze vonden, in begrijpelijke taal:

• Klein is Mooi: De beste versie gebruikte slechts 4 qubits (de kleinste grootte die ze testten). Het had slechts 96 trainbare parameters. Om dit in perspectief te plaatsen: de rest van het computermodel heeft miljoenen parameters. Het kwantumgedeelte is als een kleine, efficiënte chef in een enorme keuken, die precies die ene taak doet van het beslissen van de relatie.
• Beter in het Zeldzame: Wanneer ze het systeem trainden om extra aandacht te besteden aan de zeldzame relaties (met behulp van een speciale "gewogen" trainingsmethode), werd de kwantumkop veel beter in het spotten van de "Zephyrs" van deze wereld.
  • Het oude, standaard computermodel kreeg ongeveer 41% van de zeldzame relaties goed.
  • Hun nieuwe 4-qubit kwantummodel kreeg 57% goed.
  • Zelfs de 8-qubit versie bleef sterk op 55%.
• Geen Verlies in het Algemene: Terwijl ze beter werden in het zeldzame, verloor het model niet zijn vermogen om het algemene (zoals "op" of "in") te raden. Het hield de globale nauwkeurigheid hoog.
• Echte Hardware Test: Ze hebben dit niet alleen op een simulator gedraaid; ze hebben ook een kleine versie ervan gedraaid op een echte kwantumcomputer (een IBM supergeleidende chip). Het werkte! Het crashte niet en gaf geen willekeurige antwoorden. Het identificeerde correct 6 van de 9 testgevallen, wat bewijst dat dit kleine kwantumbrein daadwerkelijk kan draaien op echte, ruisgevoelige hardware.

De Trade-Off

De paper merkte ook een nadeel op. Als je het kwantumcircuit te diep maakt (te veel lagen toevoegt om het "slimmer" te maken), duurt het langer om uit te voeren en verbruikt het meer rekenkracht. Het "sweet spot" was een circuit dat diep genoeg was om slim te zijn, maar ondiep genoeg om snel te zijn.

Samenvatting

Kortom, deze paper laat zien dat je geen massieve kwantumcomputer nodig hebt om AI te verbeteren. Door alleen de laatste beslissingsstap te vervangen door een klein, efficiënt kwantummodule, kun je de AI helpen om de zeldzame, specifieke relaties in afbeeldingen niet langer te negeren. Het is also kind met het vervangen van een luidruchtig, bevooroordeeld publiek door een stille, hoogopgeleide specialist die naar de details luistert die iedereen anders mist.

Technische samenvatting

Technische Samenvatting: QPredSGG – Hybride Kwantum Predicaatleren voor Long-Tailed Scene Graph Generation

1. Probleemstelling

Scene Graph Generation (SGG) beoogt afbeeldingen te representeren als gestructureerde grafen van objecten (nodes) en hun semantische relaties (edges), doorgaans uitgedrukt als triplets $\langle \text{subject}, \text{predicate}, \text{object} \rangle$. Een kritieke flessenhals in huidige SGG-systemen is de long-tailed distributie van predicaten die aanwezig is in datasets zoals Visual Genome; frequente, generieke predicaten (bijv. "op", "van", "in") domineren de geannoteerde relaties, terwijl semantisch specifieke predicaten zeldzaam voorkomen.

Consequent neigen standaardmodellen die getraind zijn met conventionele doelstellingen naar het optimaliseren van Global Recall (R@K) door frequente klassen te voorspellen, wat resulteert in een matige Mean Recall (mR@K) voor zeldzame maar informatieve relaties. Hoewel bestaande de-biasing strategieën (bijv. causale inferentie, loss reweighting) de mean recall hebben verbeterd, leunt de predicaatclassificatiefase in state-of-the-art frameworks zoals het Causal Feature Enhancement Network (CFEN) nog steeds op grote klassieke Multi-Layer Perceptrons (MLP's). Deze beslissingsmodules zijn parameter-zwaar, wat de vraag oproept of een compacter beslissingsmodule de prestaties van long-tail herkenning kan behouden of verbeteren.

2. Methodologie

Het artikel stelt QPredSGG voor, een hybride kwantum-klassieke architectuur die de klassieke predicaatkop in de CFEN-backbone vervangt door een Quantum Predicate Head (QP-Head). De methodologie volgt een vierfasige experimentele pijplijn:

• Backbone en Feature Compressie: Het systeem maakt gebruik van de CFEN-backbone, die een Bidirectional Tree LSTM (BiTreeLSTM) gebruikt om contextuele paar-embeddings ($h_{ij} \in \mathbb{R}^{4096}$) te extraheren. Voordat de kwantumverwerking plaatsvindt, worden deze hoogdimensionale features via een klassieke lineaire laag geprojecteerd naar een gecomprimeerde, kwantum-compatibele vector (bijv. 16-dimensionaal voor 4 qubits).
• Hybride Kwantumarchitectuur (QP-Head):
  • Encoding: De gecomprimeerde features worden gecodeerd in een parametriseerbaar kwantumcircuit (PQC) met behulp van ofwel Angle Embedding (het mappen van features naar rotatiehoeken) of Amplitude Embedding (het normaliseren en mappen naar staattoestandsamplitudes).
  • Variational Circuit: De gecodeerde staat gaat door trainbare lagen bestaande uit rotatiepoorten en verstrengelings-templates. De studie evalueert twee templates: Basic Entangling Layers (BEL) en Strongly Entangling Layers (SEL).
  • Readout: Het circuit eindigt met metingen die verwachtingswaarden produceren, die worden gevoed aan een lichtgewicht klassieke readout-laag om logits te genereren voor de 51 predicaatklassen.
• Bias-Aware Training: Om de long-tail onbalans aan te pakken, worden alle modellen getraind met een Weighted Cross-Entropy (WCE) loss. Inverse-frequentie gewichten worden toegepast, waarbij de ratio van zeldzame-naar-frequente klasse-straf wordt begrensd op 46$\times$, wat ervoor zorgt dat de optimizer prioriteit geeft aan zeldzame predicaten zonder de training te destabiliseren.
• Evaluatiemetrieken: Prestaties worden beoordeeld via Global Recall (R@50, R@100) en Mean Recall (mR@50, mR@100). Daarnaast worden kwantumspecifieke metrieken geanalyseerd, inclusief Expressibility (KL-divergentie van de Haar-random fidelity) en Entanglement (Von Neumann entropie).

3. Belangrijkste Bijdragen

Het artikel schetst vijf primaire bijdragen:

1. Hybride Kwantum Predicaatkop: Introductie van de QP-Head, een compacte parametriseerbare kwantumcircuit die de klassieke MLP in een SGG-pijplijn vervangt, waarbij de relationele feature-backbone behouden blijft.
2. Gecontroleerde Architectuurstudie: Een systematische evaluatie van de QP-Head over verschillende qubit-aantallen (4 vs. 8), encoding-strategieën (Angle vs. Amplitude), entangling templates (BEL vs. SEL) en circuit-dieptes (2, 4, 6 lagen).
3. Bias-Aware Evaluatie: Analyse van de QP-Head onder class-balanced training om te bepalen of het de herkenning van zeldzame predicaten (mR) verbetert in plaats van alleen de prestaties van frequente klassen.
4. Kwaliteit en Efficiëntie van Kwantumcomponenten: Correlatie van semantische prestaties met circuit-niveau diagnostiek (expressibility, entanglement) en computationele overhead (aantal parameters, runtime).
5. Fysieke QPU Validatie: Executie van de compacte 4-qubit QP-Head op een echte supergeleidende kwantumprocessor (IBM ibm_fez) om de haalbaarheid buiten state-vector simulatie te verifiëren.

4. Experimentele Resultaten

Experimenten werden uitgevoerd op de Visual Genome 150 (VG-150) dataset onder de Predicate Classification (PredCls) setting.

• Trainingsdynamiek: Class-balanced training (WCE) verbeterde mR@50 aanzienlijk (van ~0,17 naar ~0,26) vergeleken met standaard Cross-Entropy, zonder de Global Recall te verslechteren.
• 4-Qubit Zoektocht: Onder de 4-qubit configuraties leverde Amplitude Embedding met Strongly Entangling Layers de beste prestaties op, met een mR@100 van 57,25% (vergeleken met 41,1% voor de klassieke CFEN-referentie) met slechts 96 trainbare kwantumparameters. Deze configuratie maakte gebruik van een 16-dimensionale gecomprimeerde representatie.
• Opschaling naar 8 Qubits: Opschaling naar 8 qubits (256-dimensionale toestandsruimte) behield sterke prestaties en bereikte een mR@100 van 55,38% met 384 kwantumparameters. De Global Recall bleef stabiel (R@100 > 0,90).
• Depth Ablation: Het verhogen van de circuitdiepte van 2 naar 6 lagen verbeterde de expressibility (lagere KL-divergentie) maar verhoogde de runtime-latentie aanzienlijk (van ~214ms naar ~474ms). De 4-laags configuratie bood de beste afweging tussen expressibility en computationele kosten.
• Parameter Efficiëntie: De kwantumcomponent vertegenwoordigde minder dan 0,001% van de totale modelparameters, fungerend als een compacte beslissingslaag bovenop de klassieke feature extractor.
• Hardware Executie: Op de IBM ibm_fez QPU verwerkte het 4-qubit model succesvol 9 validatie-triplets, waarbij een batch nauwkeurigheid van 66,67% werd behaald. Cruciaal was dat de output niet inklapte naar één dominante klasse, waardoor de klasse-discriminatieve structuur behouden bleef ondanks hardware-ruis.
• Vergelijking: De QP-Head varianten presteerden beter dan de klassieke CFEN-referentie in mR@100 (57,25% vs. 41,1%) terwijl ze een competitieve Global Recall behielden, met een fractie van de trainbare parameters die de klassieke kop vereist.

5. Betekenis en Claims

Het artikel claimt bescheiden dat compacte hybride kwantum predicaatkoppen parameter-efficiënte long-tail relationele classificatie kunnen ondersteunen in complexe visuele redeneertaken.

• Geen Claim van Onvoorwaardelijke Superioriteit: De auteurs claimen geen brede kwantumsuperioriteit. In plaats daarvan leveren zij gecontroleerd bewijs dat een kleine, NISQ-era kwantumcircuit effectief kan dienen als een beslissingsmodule wanneer deze wordt geïntegreerd in een gevestigde klassieke pijplijn.
• Haalbaarheid: Het werk demonstreert dat hybride kwantummodellen getraind kunnen worden in gesimuleerde omgevingen en uitgevoerd kunnen worden op fysieke hardware zonder te imploderen naar willekeurige of single-class gedrag, zelfs met zware dimensionale compressie.
• Praktijkgerichtheid: De resultaten suggereren dat kwantumcomponenten de mean recall voor zeldzame predicaten kunnen verbeteren zonder prohibitieve parameter-overhead te introduceren, mits de architectuur (encoding en verstrengeling) zorgvuldig wordt afgestemd.

De studie concludeert dat hoewel de huidige evaluatie beperkt is tot PredCls en simulatie, de QP-Head een veelbelovende richting vertegenwoordigt voor het integreren van hybride kwantumcomponenten in scene graph generation om de long-tail bias efficiënt aan te pakken.