Local and Multi-Scale Strategies to Mitigate Exponential Concentration in Quantum Kernels

Titolo

Strategie Locali e Multi-Scala per Mitigare la Concentrazione Esponenziale nei Kernel Quantistici

1. Il Problema: Concentrazione Esponenziale nei Kernel Quantistici

Il lavoro affronta una sfida fondamentale nell'apprendimento automatico quantistico (QML): la concentrazione esponenziale nei kernel basati sulla fedeltà.

• Contesto: I metodi a kernel quantistici mappano i dati classici in stati quantistici tramite mappe di feature (circuiti parametrizzati) e calcolano la similarità tramite la fedeltà quadrata tra stati: $k(x, x') = |\langle \psi(x) | \psi(x') \rangle|^2$.
• Il Fenomeno: All'aumentare del numero di qubit (dimensione del sistema $d$) o dell'espressività del circuito, gli stati codificati distinti tendono a diventare ortogonali in modo casuale. Di conseguenza, gli elementi fuori diagonale della matrice di Gram (la matrice di similarità) si concentrano attorno a un valore costante e molto basso (spesso vicino a zero), mentre la matrice tende all'identità.
• Conseguenze:
  1. Perdita di informazione: La struttura di similarità rilevante per le etichette viene soppressa, rendendo il kernel poco informativo.
  2. Costo computazionale: La stima precisa di queste sovrapposizioni richiede un numero enorme di "shot" (misurazioni), rendendo il processo costoso.
  3. Generalizzazione: La capacità del modello di imparare e generalizzare viene compromessa.

2. Metodologia Proposta

Gli autori propongono e implementano due strategie pratiche per mitigare questo fenomeno, mantenendo la compatibilità con i metodi classici a kernel (come le SVM). Le strategie sono state implementate in Qiskit e testate su un set di dati tabulari reali e sintetici.

A. Kernel Locali (Patch-wise)

Invece di calcolare la sovrapposizione globale su tutti i qubit, questa strategia suddivide il sistema in sottosistemi più piccoli ("patch").

• Meccanismo: Si definisce una collezione di patch $P = \{P_1, ..., P_M\}$ (sottoinsiemi di qubit). Per ogni patch, si calcola la similarità:
  • Utilizzando circuiti sottomessi (subcircuit) sui qubit della patch.
  • Oppure calcolando la Matrice Densità Ridotta (RDM) dello stato globale e tracciando fuori i qubit complementari.
• Aggregazione: I kernel delle singole patch vengono aggregati tramite una media pesata o non pesata:
  $$k_{loc}(x, x') = \sum_{m=1}^{M} w_m \kappa_{P_m}(x, x')$$
• Vantaggio: Riduce la sensibilità allo "scrambling" globale, mantenendo una variazione significativa nella similarità anche per dimensioni elevate.

B. Kernel Multi-Scala

Questa strategia combina kernel calcolati a diverse granularità (dimensioni delle patch).

• Meccanismo: Si combinano kernel calcolati su scale diverse (es. patch piccole per correlazioni a corto raggio e patch grandi o globali per similarità globale).
• Definizione: È una combinazione convessa di kernel a diverse scale:
  $$k_{ms}(x, x') = \sum_{s=1}^{S} \alpha_s k^{(s)}(x, x')$$
• Obiettivo: Preservare informazioni che potrebbero apparire solo a specifiche dimensioni del sottosistema, bilanciando la perdita di informazione globale con la ricchezza strutturale locale.

Protocollo Sperimentale

• Dataset: Diversi dataset tabulari (es. cancro al seno, morbo di Parkinson, ionosfera, malattie cardiache).
• Dimensioni: Studio sistematico al variare della dimensione delle feature $d \in \{4, 6, ..., 20\}$.
• Feature Map: Circuiti di tipo "ZZ-style" (codifica dati tramite rotazioni e entanglement).
• Valutazione:
  • Diagnosi geometrica: Statistiche di concentrazione fuori diagonale (mediana p50, coda p95), rango effettivo (ricchezza spettrale), e allineamento centrato con le etichette.
  • Prestazione: Classificazione tramite Support Vector Machine (SVM) con kernel precalcolati.

3. Risultati Chiave

Mitigazione della Concentrazione (Diagnostica Geometrica)

• Riduzione della concentrazione: Sia i kernel locali che quelli multi-scala hanno dimostrato una capacità costante di mitigare la concentrazione esponenziale rispetto al kernel di fedeltà globale (baseline).
• Statistiche p50/p95: Mentre il kernel baseline mostra un rapido crollo degli elementi fuori diagonale verso zero all'aumentare di $d$, i kernel locali mantengono valori significativamente più alti, preservando la struttura di similarità.
• Rango Effettivo: I kernel locali e multi-scala mantengono un rango effettivo più alto (spettro più ricco e piatto), indicando che l'informazione non collassa in pochi autovettori dominanti come accade nel baseline.

Prestazioni di Classificazione (SVM)

• Risultati Variabili: La riduzione della concentrazione non garantisce automaticamente un miglioramento dell'accuratezza di classificazione.
  • In alcuni dataset e dimensioni, i kernel locali/multi-scala superano il baseline.
  • In altri casi, le prestazioni sono comparabili o leggermente inferiori.
• Interpretazione: La concentrazione è una diagnosi utile per la geometria del kernel, ma non è un criterio sufficiente per la performance predittiva. L'aggiunta di varianza (riducendo la concentrazione) non è utile se tale varianza non è allineata con la struttura delle etichette (come confermato dall'analisi dell'allineamento centrato).
• Trade-off: I kernel locali possono scartare correlazioni globali importanti per certi dataset, diluendo l'informazione utile attraverso la media.

4. Contributi Principali

1. Implementazione Qiskit: Forniscono un'API unificata e riproducibile per kernel quantistici globali, locali e multi-scala.
2. Benchmark Sistematico: Una valutazione rigorosa su un ampio intervallo di dimensioni di feature ($d=4$ a $20$) con protocolli di pre-processing e split di dati identici per tutti i metodi.
3. Diagnostica Completa: Introduzione di metriche geometriche (p50, p95, rango effettivo, allineamento centrato) per quantificare non solo la concentrazione, ma anche la rilevanza dell'informazione per il task di apprendimento.
4. Analisi dei Trade-off: Dimostrazione empirica che la mitigazione della concentrazione è necessaria ma non sufficiente per migliorare l'accuratezza, sottolineando la necessità di progettare attentamente le patch e le scale in base ai dati.

5. Significato e Prospettive Future

Questo lavoro offre una soluzione pratica e flessibile al problema della concentrazione esponenziale, che è uno dei principali ostacoli all'uso di kernel quantistici su hardware reale e simulazioni di grandi dimensioni.

• Impatto: Le strategie locali e multi-scala agiscono come "manopole" per controllare la concentrazione del kernel senza abbandonare l'infrastruttura classica dei kernel methods.
• Futuro: Gli autori suggeriscono che la progettazione delle patch e la ponderazione delle scale potrebbero essere ottimizzate in modo guidato dai dati (data-driven). Inoltre, l'estensione di questi metodi a hardware rumoroso (NISQ) richiederà un'attenta gestione degli errori statistici e dei costi computazionali (ad esempio, utilizzando approssimazioni Nyström per scalare).

In sintesi, il paper dimostra che scomporre la similarità globale in componenti locali e multi-scala è una strategia efficace per preservare la ricchezza spettrale dei kernel quantistici, anche se il successo finale nella classificazione dipende fortemente dall'adeguatezza di queste strutture rispetto al dataset specifico.