Landscape-Dependent Performance of Photonic Quantum Solvers in QUBO Feature Selection for Financial Risk Detection

Technische Samenvatting: Landschap-afhankelijke Prestaties van Fotonische Kwantum-solvers in QUBO Feature Selectie voor Financiële Risicodetectie

Probleemstelling
Feature selectie voor ongebalanceerde financiële classificatietaken, zoals detectie van creditcardfraude en consumentendefaulter-voorspelling, vereist een balans tussen voorspellende relevantie, inter-feature redundantie en computationele haalbaarheid. De uitdaging wordt verergerd door de "vloek van dimensionaliteit" en de specifieke structurele eigenschappen van financiële data. Dit artikel onderzoekt de prestaties van drie verschillende rekenparadigma's—klassieke exacte optimalisatie, fotonische entropische computing en fotonische boson sampling—bij het toepassen van Quadratic Unconstrained Binary Optimization (QUBO) formuleringen voor feature selectie. De studie onderzoekt specifiek of de geobserveerde prestatietrends in compacte, laag-dimensionale feature-ruimtes generaliseren naar grotere, meer redundante datasets, en of de keuze van de solver een significante impact heeft op downstream predictieve metrieken (F1-score en Gini-coëfficiënt).

Methodologie
De auteurs hebben dertien feature-selectiemethoden getest over twee datasets met contrasterende structuren:

1. ULB Credit Card Fraud: Een dataset met 30 features (Tijd, Bedrag en 28 PCA-geanonimiseerde componenten) met een fraude-prevalentie van 0,17%. Het signaal is geconcentreerd in enkele ongecorreleerde componenten.
2. AmEx Consumer Default: Een dataset met 159 features verdeeld over vijf semantische categorieën (Betaling, Saldo, Uitgaven, Achterstand, Risico). Het signaal is verspreid over vele matig gecorreleerde features.

Drie solver-paradigma's werden toegepast, gebruikmakend van een "solver-bewust" ontwerpprincipe waarbij methoden werden gerouteerd naar de solver die het beste overeenkwam met hun wiskundige structuur:

• Gurobi (Klassiek): Lost standaard en graaf-theoretische QUBO's op (Tier 1 en Tier 2) tot gecertificeerde globale optimaliteit via branch-and-bound.
• QCI Dirac-3 (Fotonische Entropische): Lost standaard, graaf-theoretische en hardware-native methoden op (Tier 3). Tier 3-methoden maakten gebruik van native capaciteiten zoals multi-level qudit variabelen en cubische objectieve termen (HUBO, Integer-Weighted, Community-Poly).
• Piquasso (Fotonische Boson Sampling): Een sampling-gebaseerde aanpak met permanent-gewogen triplet sampling zonder een expliciet optimalisatie-objectief.

De evaluatie scande feature-budgetten ($k$) van agressieve compressie (bijv. $k=5$ op ULB, $k=25$ op AmEx) tot bijna volledige feature-sets. Prestaties werden gemeten aan de hand van de F1-score (primaire metriek voor ongebalanceerde klassen) en de Gini-coëfficiënt (rangschikkingskwaliteit). Daarnaast werd Jaccard-gelijkenis gebruikt om de diversiteit van de geselecteerde feature-subsets over solvers en methoden heen te analyseren.

Belangrijkste Bijdragen

1. Solver-Bewuste Methode-Routing: De studie introduceert een framework waarbij feature-selectie formuleringen worden gematcht met solvers die in staat zijn hun specifieke wiskundige structuren exact te verwerken (bijv. het routeren van hogere-orde objectieven naar Dirac-3 in plaats van ze te reduceren tot kwadratische vormen).
2. Omvattende Empirische Sweep: De auteurs bieden een systematische vergelijking over 13 methoden en 3 solver-paradigma's op twee structureel verschillende datasets, waarbij de compressie-prestatie-frontier wordt gevolgd.
3. Diversiteitsanalyse: Het artikel kwantificeert de overlap tussen geselecteerde feature-subsets met behulp van Jaccard-gelijkenis, waarbij de geobserveerde overlap wordt vergeleken met de verwachting voor willekeurige subsets om echt methode-overeenkomst te onderscheiden van toeval.
4. Landschap-afhankelijke Inzichten: De studie toont aan dat de effectiviteit van agressieve feature-compressie en de impact van de keuze van de solver sterk afhankelijk zijn van de onderliggende datastructuur (signaalconcentratie versus signaalverspreiding).

Resultaten

• ULB Dataset (Compacte, Geconcentreerde Signaal):

  • Compressievoordeel: Agressieve compressie leverde significante prestaties op. Dirac-3 met de MI-Spearman methode bij $k=13$ (43% van de features) bereikte een gemiddelde F1 van $0,873 \pm 0,023$, wat overeenkomt met het model met alle features.
  • Piquasso Outlier: Piquasso bereikte de beste F1 bij het kleinste budget ($k=5$, F1=0,874), waarmee het alle andere methoden overtrof en zelfs het model met alle features licht overtrof. Dit voordeel werd toegeschreven aan permanent-weging, wat features selecteert die gezamenlijk relevant zijn in plaats van enkel marginaal relevant.
  • Solver Sensitiviteit: De keuze van de methode had een significante impact op de prestaties bij krappe budgetten. De spreiding in F1-scores over de methoden was ongeveer tien keer groter op ULB dan op AmEx.
  • Optimaliteit vs. Prestatie: Gecertificeerde optimaliteit door Gurobi garandeerde niet de beste downstream F1. Zo leverde de optimale oplossing van Gurobi voor de Dist-Corr methode bij $k=5$ een F1 van 0,448 op, terwijl de stochastische zoektocht van Dirac-3 subsets vond met hogere F1-scores.

• AmEx Dataset (Grote, Redundante Signaal):

  • Geen Compressievoordeel: De prestaties verbeterden gestaag naarmate er meer features werden behouden. Geen enkele methode bereikte een compressievoordeel; alle paradigma's benaderden de F1 van de alle-features-set ($\approx 0,80$) pas bij grote budgetten ($k=125$–$150$).
  • Solver Robuustheid: De keuze van de solver had minimale impact op de prestaties. De gecertificeerde optima van Gurobi en de stochastische samples van Dirac-3 produceerden vergelijkbare F1-scores, en de spreiding tussen de methoden was smal.
  • Optimaliteits-disconnect: Er werd een significante disconnect geobserveerd tussen de waarde van het optimalisatie-objectief en de predictieve prestaties. Voor de Dist-Corr methode bij $k=25$ bereikte de globaal optimale oplossing van Gurobi een F1 van 0,422, terwijl Dirac-3 een gemiddelde F1 van 0,746 bereikte op dezelfde methode.

• Subset Diversiteit:

  • Geselecteerde feature-subsets over verschillende methoden en solvers vertoonden een overlap die dicht bij de verwachting voor willekeurige subsets lag op beide datasets.
  • Ondanks de lage overlap was de impact van deze verschillen op de prestaties dataset-afhankelijk: op ULB leidden verschillende subsets tot zeer verschillende F1-scores, terwijl op AmEx verschillende subsets grotendeels uitwisselbaar waren qua prestaties.

Betekenis en Claims
Het artikel claimt dat effectieve feature selectie vereist dat men de balans vindt tussen predictieve relevantie en redundantie tegenover de specifieke computationele capaciteiten van de solver. De belangrijkste bevinding is dat gespecialiseerde solvers en methode-keuzes het meest van belang zijn in compacte, grotendeels ongecorreleerde feature-ruimtes met geconcentreerde signalen (zoals ULB), waar agressieve compressie haalbaar is en de stochastische aard van solvers soms de deterministische optima kan overtreffen. Daarentegen, in grotere, meer redundante feature-ruimtes (zoals AmEx), doet de keuze van de solver er minder toe, en leidt agressieve compressie vaak tot het weggooien van noodzakelijke signalen, wat leidt tot prestatievermindering.

De auteurs concluderen bescheiden dat hoewel fotonische solvers (Dirac-3 en Piquasso) concurrerende of superieure prestaties bieden in specifieke regimes (met name bij kleine budgetten op geconcentreerde data), zij niet universeel superieur zijn aan klassieke exacte solvers. De studie benadrukt dat "gecertificeerde QUBO-optimaliteit" geen garantie is voor downstream predictieve prestaties, aangezien het optimalisatie-objectief vaak een benadering is van het werkelijke doel van de classifier. Het werk suggereert dat de gevoeligheid van een probleem voor de keuze van solver en methode potentieel geschat kan worden met behulp van goedkope subsets voordat volledige benchmarks worden uitgevoerd.