Quantum Feature Selection with Higher-Order Binary Optimization on Trapped-Ion Hardware

Questo lavoro presenta un framework di selezione delle caratteristiche quantistiche basato su una formulazione di ottimizzazione binaria non vincolata di ordine superiore (HUBO) con dipendenze multivariate, implementato con successo sull'hardware a ioni intrappolati IonQ Forte per dimostrare prestazioni di classificazione competitive e la fattibilità dell'ottimizzazione quantistica di ordine superiore per la pre-elaborazione nell'apprendimento automatico.

L'essenziale

Immagina di cercare di risolvere un puzzle enorme, ma hai 32 pezzi diversi (caratteristiche) tra cui scegliere, e ne hai bisogno solo di alcuni per vedere chiaramente l'immagine completa. Il problema è che alcuni pezzi sembrano importanti da soli, alcuni sembrano importanti solo quando sono accoppiati ad altri, e alcuni sono semplicemente duplicati l'uno dell'altro.

Questo articolo descrive un nuovo modo per utilizzare un computer quantistico per trovare la combinazione perfetta di pezzi del puzzle. Invece di guardare i pezzi uno per uno o a coppie (come fanno i metodi tradizionali), questo nuovo metodo esamina come gruppi di tre pezzi funzionano insieme.

Ecco la spiegazione del loro approccio utilizzando analogie semplici:

1. Il Problema: Troppe Scelte

Nella scienza dei dati, la "Selezione delle Caratteristiche" è il processo di scelta delle informazioni più utili da un elenco enorme.

• Il Vecchio Modo (QUBO): Immagina di cercare di scegliere i migliori membri di una squadra chiedendo solo: "Quanto è brava la Persona A?" e "Quanto vanno d'accordo la Persona A e la Persona B?". Questo ignora il fatto che a volte, un gruppo specifico di tre persone crea una chimica magica che non si può vedere guardandoli singolarmente o a coppie.
• Il Nuovo Modo (HUBO): Gli autori hanno creato un metodo che chiede: "Quanto è bravo questo specifico trio di persone a lavorare insieme?". Lo chiamano Ottimizzazione Binaria Non Vincolata di Ordine Superiore (HUBO). È come avere un manager super-intelligente che può comprendere istantaneamente dinamiche di gruppo complesse, non solo le abilità individuali.

2. La Ricetta: Il Modello "Energia"

Per trovare la migliore squadra, i ricercatori hanno costruito una "ricetta" matematica chiamata Hamiltoniana (immaginala come una scheda di punteggio).

• Rilevanza (Corpo singolo): Se un'informazione è molto utile da sola, la scheda di punteggio le assegna un "bonus" (abbassa l'energia).
• Ridondanza (Corpo doppio): Se due pezzi di informazione dicono esattamente la stessa cosa, la scheda di punteggio penalizza la scelta di entrambi (alza l'energia).
• Gruppi Complessi (Corpo triplo): Questa è la salsa segreta. Se tre pezzi di informazione creano un'idea potente solo quando combinati, la scheda di punteggio premia quel trio specifico.
• La Regola "Nessun Pranzo Gratuito": Per impedire al computer di scegliere ogni singolo pezzo (che è la soluzione pigra e facile), hanno aggiunto una penalità. È come un allenatore severo che dice: "Non puoi scegliere l'intera squadra; devi scegliere il miglior piccolo gruppo".

3. La Macchina: La Palestra Quantistica

Hanno testato questa ricetta su un vero computer quantistico realizzato da IonQ, che utilizza ioni intrappolati (atomi carichi) come suoi "bit".

• L'Allenamento: Hanno utilizzato una tecnica chiamata Ottimizzazione Quantistica Counterdiabatica Digitalizzata (DCQO). Immagina di cercare il punto più basso in una valle nebbiosa. Una normale passeggiata potrebbe farti rimanere bloccato in una piccola depressione. Questa tecnica è come una visita guidata che aiuta il computer a "scivolare" rapidamente e fluidamente fino al punto più basso assoluto (la migliore soluzione) senza rimanere bloccato nella nebbia.
• Il Risultato: Il computer ha eseguito questo "allenamento" e ha prodotto un elenco di probabilità per ogni caratteristica, indicando quanto spesso quella caratteristica appariva nelle migliori soluzioni.

4. La Prova su Strada: Due Scenari Reali

Hanno testato il loro metodo su due diversi set di dati per vedere se funzionava davvero:

• Scenario A: Il Set di Dati sui Calcoli Biliari (Medico)

  • Il Compito: Prevedere se un paziente ha calcoli biliari basandosi su 32 parametri di salute (come colesterolo, età, peso).
  • L'Esito: Il metodo quantistico ha selezionato 19 parametri chiave. Ha funzionato meglio dei metodi informatici standard (come la PCA o la scelta dei primi 19 per semplice classificazione). Ha trovato un elenco più piccolo e pulito di sintomi che prevedeva la malattia altrettanto bene, o addirittura meglio, rispetto all'uso di tutti i dati.
  • Il Controllo: Hanno confrontato i risultati del vero computer quantistico con una simulazione perfetta, priva di rumore. Corrispondevano molto da vicino, dimostrando che l'hardware reale funziona come previsto.

• Scenario B: Il Set di Dati Spambase (Email)

  • Il Compito: Stabilire se un'email è spam o meno, basandosi su 32 frequenze di parole/caratteri.
  • L'Esito: Il metodo quantistico ha ridotto l'elenco a 23 indicatori chiave. Ancora una volta, ha superato i metodi standard. È riuscito a eliminare il "rumore" (parole ridondanti) mantenendo il "segnale" (parole che indicano effettivamente lo spam).

5. La Conclusione

L'articolo afferma che:

1. Funziona: Il computer quantistico ha trovato con successo sottoinsiemi di dati di alta qualità.
2. È migliore del vecchio modo: Guardando le relazioni "a tre vie" (ordine superiore), ha trovato combinazioni migliori rispetto ai metodi che guardano solo individui o coppie.
3. È efficiente: Ha ridotto la quantità di dati necessaria per fare previsioni accurate senza perdere precisione.
4. L'hardware è pronto: I risultati della vera macchina IonQ erano molto simili alle simulazioni perfette, suggerendo che i computer quantistici di oggi sono già capaci di gestire questi complessi problemi di "dinamiche di gruppo".

In breve, gli autori hanno costruito una "squadra" quantistica che è migliore nel individuare i membri più preziosi di un gruppo perché comprende come le persone interagiscono a tre, non solo a coppie. Hanno dimostrato che funziona su hardware reale con dati reali.

Sommario tecnico

1. Enunciato del Problema

La selezione delle caratteristiche (FS) è fondamentale per migliorare l'interpretabilità del modello, ridurre l'overfitting e aumentare l'efficienza computazionale nei dataset ad alta dimensionalità. Tuttavia, i metodi classici di FS presentano limitazioni significative:

• I metodi wrapper sono computazionalmente costosi e scalano male.
• I metodi filter (ad es. informazione reciproca) spesso ignorano le interazioni tra le caratteristiche.
• I metodi embedded sono sensibili agli iperparametri e spesso mostrano un pregiudizio verso dipendenze lineari o gerarchiche.
• Limitazioni Quantistiche: Gli approcci quantistici esistenti formulano tipicamente la FS come un problema di Ottimizzazione Binaria Senza Vincoli Quadratica (QUBO). Il QUBO è limitato alle interazioni a uno e due corpi, costringendo le dipendenze di ordine superiore (relazioni multivariate) a essere trascurate, approssimate o introdotte tramite costosi sovraccarichi di quadratizzazione.

Sfida Principale: Come catturare esplicitamente complesse dipendenze statistiche di ordine superiore tra le caratteristiche in un framework di ottimizzazione quantistica senza ridurre il problema a una forma quadratica, e come eseguire ciò sull'attuale hardware quantistico a scala intermedia rumoroso (NISQ).

2. Metodologia

Gli autori propongono un nuovo framework basato sull'Ottimizzazione Binaria Senza Vincoli di Ordine Superiore (HUBO) eseguita sull'hardware a ioni intrappolati IonQ Forte.

A. Formulazione HUBO

Invece di un Hamiltoniano quadratico, il problema è codificato in un Hamiltoniano contenente termini di interazione a uno, due e tre corpi:
$$H(Z) = \sum_i h_i Z_i + \sum_{i<j} J_{ij} Z_i Z_j + \sum_{i<j<k} K_{ijk} Z_i Z_j Z_k + C$$

• Variabili: $Z_i \in \{-1, +1\}$ (convenzione di Ising), dove $-1$ indica la selezione della caratteristica.
• Coefficienti: Derivati dall'Informazione Reciproca (MI):
  • $h_i$: Codifica la rilevanza individuale della caratteristica rispetto all'obiettivo.
  • $J_{ij}$: Codifica la ridondanza a coppie (penalizzando le caratteristiche correlate).
  • $K_{ijk}$: Codifica le dipendenze di ordine superiore (catturando informazioni presenti solo in gruppi di tre caratteristiche).
• Penalità Strutturate: Per prevenire soluzioni banali (ad es. selezionare tutte le caratteristiche), viene aggiunto un termine di penalità lineare $H_\lambda$, che sopprime le caratteristiche con rilevanza trascurabile al di sotto di una soglia $\tau$.

B. Algoritmo di Ottimizzazione: Ottimizzazione Quantistica Counterdiabatica Digitalizzata (DCQO)

Gli autori utilizzano il DCQO per trovare lo stato fondamentale dell'Hamiltoniano HUBO:

• Meccanismo: Un approccio basato su porte ispirato agli "scorciatoie verso l'adiabaticità". Interpola tra un Hamiltoniano driver e l'Hamiltoniano HUBO target, aggiungendo termini counterdiabatici approssimati per sopprimere le transizioni diabatiche durante l'evoluzione a tempo finito.
• Esecuzione: Implementato su IonQ Forte (ioni Yb+) con connettività tutti-a-tutti, che supporta naturalmente le interazioni a lungo raggio richieste dall'HUBO senza complessi processi di embedding.

C. Post-Elaborazione e Selezione

1. Campionamento: Il sistema viene misurato per generare campioni di stringhe di bit.
2. Filtraggio: I campioni vengono classificati per energia; viene mantenuta solo la frazione a energia più bassa ($\rho$, ad es. il 25% superiore) per filtrare il rumore.
3. Punteggio: L'importanza della caratteristica ($I_i$) è calcolata come la frequenza empirica di una caratteristica selezionata ($x_i=1$) all'interno del sottoinsieme a bassa energia.
4. Soglia: Le caratteristiche vengono selezionate se $I_i \geq \delta$.

3. Contributi Chiave

1. HUBO per la Selezione delle Caratteristiche: La prima formulazione esplicita della selezione delle caratteristiche come problema HUBO che cattura direttamente le interazioni a tre corpi, evitando la perdita di informazioni intrinseca nelle riduzioni QUBO.
2. Implementazione Hardware: Esecuzione riuscita di un problema di ottimizzazione di ordine superiore sull'hardware a ioni intrappolati IonQ Forte, dimostrando la fattibilità dell'esecuzione di circuiti quantistici profondi per il pre-processing dell'apprendimento automatico.
3. Indipendenza dal Modello: Il metodo si basa puramente su dipendenze statistiche (Informazione Reciproca) derivate dai dati, non richiedendo alcun addestramento del modello durante la fase di selezione.
4. Benchmarking: Confronto completo rispetto a simulazioni quantistiche senza rumore e baseline classiche (SelectKBest e PCA) su dataset reali.

4. Risultati Sperimentali

Il framework è stato testato su due dataset: Gallstone (biomedico, 38 caratteristiche) e Spambase (testuale, 57 caratteristiche). Entrambi sono stati pre-selezionati a 32 caratteristiche per i vincoli hardware.

A. Dataset Gallstone

• Hardware vs. Simulazione: Forte accordo qualitativo tra IonQ Forte e simulazione senza rumore riguardo alle probabilità di inclusione delle caratteristiche.
• Prestazioni: Il sottoinsieme selezionato quantisticamente (19 caratteristiche) ha raggiunto un ROC-AUC di 0,88, superando:
  • Tutte le caratteristiche (0,86)
  • PCA (0,79)
  • SelectKBest (0,84)
• Insight: L'inclusione di termini di ordine superiore ha permesso al modello di identificare un sottoinsieme più compatto e informativo rispetto ai metodi univariati.

B. Dataset Spambase

• Prestazioni: Il sottoinsieme selezionato quantisticamente (23 caratteristiche) ha raggiunto un ROC-AUC di 0,9836, superando:
  • Tutte le caratteristiche (0,9817)
  • PCA (0,9615)
  • SelectKBest (0,9805)
• Efficienza: Il metodo ha ridotto la dimensionalità di circa il 28% migliorando leggermente l'accuratezza di classificazione rispetto all'uso di tutte le caratteristiche.

5. Significato e Conclusione

• Oltre il Quadratico: Lo studio dimostra che la modellazione esplicita di strutture statistiche di ordine superiore (tramite termini a 3 corpi) produce sottoinsiemi di caratteristiche migliori rispetto agli approcci quadratici standard (QUBO), in particolare nei dataset con complesse dipendenze multivariate.
• Adeguatezza Hardware: I processori a ioni intrappolati sono unici per i problemi HUBO grazie alla loro connettività tutti-a-tutti, che elimina la necessità di mappatura dei qubit o sovraccarichi di embedding comuni nelle architetture superconduttive.
• Scalabilità: I risultati suggeriscono che, man mano che l'hardware quantistico scala (più qubit, maggiore fedeltà), questo approccio può affrontare problemi di selezione delle caratteristiche ad alta dimensionalità che sono computazionalmente intrattabili per i metodi combinatori classici.
• Lavori Futuri: Gli autori propongono l'integrazione del Bias-Field DCQO (BF-DCQO) per aggiornare iterativamente i campi di bias, migliorando ulteriormente il paesaggio di ottimizzazione per dataset più grandi.

In sintesi, questo documento dimostra un workflow quantistico pratico e indipendente dal modello che sfrutta l'ottimizzazione di ordine superiore su hardware a ioni intrappolati per superare le tecniche classiche di riduzione della dimensionalità sia nella compattezza delle caratteristiche che nelle prestazioni predittive.