Sintesi Tecnica: Acquisizione Attiva di Kernel Quantistici per la Regressione dei Processi Gaussiani

Definizione del Problema

I metodi basati su kernel quantistici offrono l'accesso a spazi di feature congetturati come classicamente intrattabili, ma il loro dispiegamento pratico su hardware near-term è limitato da un budget finito di "shot". Nella stima del kernel quantistico, ogni voce $K_{ij}$ della matrice di Gram è una aspettativa di Bernoulli stimata tramite un numero finito di esecuzioni di circuiti (shot). Il rumore di stima risultante scala come $\text{Var}(\hat{K}_{ij}) = K_{ij}(1-K_{ij})/s_{ij}$.

Sebbene lavori recenti abbiano dimostrato che l'allocazione non uniforme degli shot basata sulla sensibilità del task migliori le prestazioni nella classificazione con kernel quantistici (es. KRR, SVM), rimane poco chiaro se questo approccio si traduca nella regressione dei Processi Gaussiani (GP). La regressione GP presenta una sfida distinta: a differenza della classificazione, che si basa sul segno del predittore (robusta rispetto alla scala), la regressione GP dipende dall'intero spettro della matrice inversa del kernel $(K + \sigma_n^2 I)^{-1}$ per le medie predittive, le varianze e la verosimiglianza marginale. Di conseguenza, il rumore del kernel è amplificato da un fattore che scala con il numero di condizionamento $1/\sigma_n^4$. Un'allocazione ingenua guidata dalla sensibilità, che funziona per la classificazione, rischia un fallimento catastrofico nella regressione GP se la stima iniziale del kernel ("warm-up") è troppo rumorosa per identificare in modo affidabile le coppie sensibili.

Metodologia: AQKA-GP

Gli autori propongono AQKA-GP (Acquisizione Attiva di Kernel Quantistici per la Regressione dei Processi Gaussiani), un'estensione del framework di allocazione a varianza minima di tipo Neyman per la regressione GP. Il metodo opera in tre fasi:

1. Copertura ad Alto Floor (High-Floor Coverage): Per prevenire un eccessivo concentramento catastrofico su stime di sensibilità rumorose, l'algoritmo riserva una frazione $\rho$ (impostata a 0.5) del budget totale $B$ per il campionamento uniforme su tutte le coppie di kernel. Ciò garantisce che ogni voce riceva un numero minimo di shot, impedendo che la matrice di Gram contenga voci non osservate che assumerebbero un valore di default pari alla media a priori (0.5), il che destabilizzerebbe l'inversa della matrice.
2. Allocazione Pesata sulla Sensibilità: Il budget rimanente viene allocato non uniformemente sulla base di sensibilità derivate a livello di coppia. Gli autori derivano tre sensibilità in forma chiusa, ciascuna corrispondente a un diverso obiettivo a valle:
   • Accoppiamento Predittivo ($|\alpha_i \alpha_j|$): Derivato per minimizzare l'RMSE di test. È la specializzazione di rango 1 dell'esatto peso di Neyman sotto l'obiettivo di MSE predittivo, dove $\alpha = (K + \sigma_n^2 I)^{-1}y$.
   • Gradiente della Verosimiglianza Marginale: Derivato per l'apprendimento degli iperparametri. La sensibilità è la derivata parziale esatta della log-verosimiglianza negativa rispetto a $K_{ij}$, data da $|\frac{1}{2}[A^{-1}]_{ij} - \frac{1}{2}\alpha_i \alpha_j|$.
   • Residuo Leave-One-Out (LOO): Derivato per la calibrazione predittiva. La sensibilità enfatizza le coppie dove un endpoint ha un grande residuo LOO ed è strettamente accoppiato ai vicini tramite $A^{-1}$.
3. Jitter al Tempo di Inferenza: Per gestire il malcondizionamento della distribuzione a posteriori quando $\hat{K}$ contiene rumore di shot, il metodo gonfia il rumore di osservazione $\sigma_n^2$ con un termine di jitter calibrato $j \propto \sqrt{n} \cdot \sqrt{\hat{K}(1-\hat{K})/s}$. Questa scalatura è motivata dai limiti di concentrazione delle matrici di tipo Wigner per garantire che la distribuzione a posteriori rimanga stabile.

Il framework è inoltre esteso ai GP con Punti di Induzione Sparsi (VFE, SVGP, FITC) e ai Deep GP, dove le sensibilità sono adattate alle specifiche strutture di accoppiamento a basso rango di queste approssimazioni.

Contributi Chiave

1. Derivazione di Sensibilità Specifiche per i GP: Il documento fornisce tre sensibilità a livello di coppia in forma chiusa per la regressione GP, andando oltre i gradienti specifici per la classificazione usati nei lavori precedenti. Queste sensibilità catturano come l'incertezza del kernel si propaghi alle medie predittive, alle varianze e alle verosimiglianze.
2. Identificazione del Modo di Fallimento "High-Floor": Gli autori identificano che la regressione GP è unicamente sensibile al rumore di "warm-up" nella stima della sensibilità. Dimostrano che un alto floor di copertura uniforme ($\rho \approx 0.5$) è necessario per ripristinare la robustezza, contrastando con i floor più bassi ($\rho \le 0.2$) sufficienti per la classificazione.
3. Giustificazione Teorica: Il documento stabilisce che le sensibilità proposte non sono surrogati arbitrari ma sono o derivate esatte o specializzazioni di rango 1 dei pesi esatti di Neyman per specifici obiettivi di errore di stima (MSE predittivo, verosimiglianza marginale, LOO).
4. Validazione Empirica: Esperimenti estesi dimostrano che l'allocatore fornisce miglioramenti consistenti nel regime di budget moderato.

Risultati Sperimentali

Gli autori hanno valutato AQKA-GP su quattro benchmark di regressione UCI e due setting sintetici (dense GP-prior e dati planted-sparse) con $n_{tr}=200$.

• Guadagni di Performance: Nel regime di budget moderato (50–250 shot per coppia), AQKA-GP ottiene una riduzione dell'RMSE di test del 10–21% rispetto all'allocazione uniforme. I guadagni sono più pronunciati sui dati densi, dove il decadimento spettrale crea eterogeneità predittiva anche con kernel omogenei.
• Robustezza: La strategia del high-floor ($\rho=0.5$) elimina con successo il fallimento catastrofico osservato a budget bassi quando $\rho$ è piccolo.
• Task a Valle: I guadagni si trasferiscono a:
  • Quadratura Bayesiana: Riduzione del 37% dell'errore integrale.
  • Regressione Eteroschedastica: Miglioramento dell'RMSE del 19–29%.
  • Apprendimento degli Iperparametri: Riduzione del 65% del gap rispetto alla vera larghezza di banda del kernel.
  • Cokriging Multi-output: Miglioramento del 4%.
• Kernel Quantistici:
  • Su veri kernel quantistici ZZ e Pauli-Z con dati naturali quantistici, il metodo produce miglioramenti dell'RMSE del 13–15% a bassi budget ($p < 0.05$).
  • Su caratteristiche UCI incorporate in kernel ZZ, il guadagno scompare. Gli autori attribuiscono ciò al "regime di concentrazione esponenziale", dove i valori del kernel si raggruppano attorno a una media fissa, eliminando l'eterogeneità necessaria affinché l'allocazione degli shot possa sfruttarla.
• GP Sparsi: Il metodo si estende ai GP VFE sparsi, chiudendo il gap verso il floor oracle di circa il 40%, sebbene i guadagni assoluti siano minori a causa dell'effetto di smoothing dell'approssimazione sparsa.

Significato e Rivendicazioni

Il documento afferma che AQKA-GP estende con successo i principi dell'acquisizione attiva di kernel quantistici dalla classificazione al setting più impegnativo della regressione. La sua importanza risiede nel:

• Affrontare l'Amplificazione dell'Inversa: Tiene esplicitamente conto del fatto che la regressione GP amplifica il rumore del kernel più severamente della classificazione a causa della dipendenza dall'intero spettro della matrice inversa.
• Fornire un Protocollo Robusto: Stabilisce che un alto floor di copertura uniforme è una condizione necessaria per una regressione GP stabile sotto rumore di shot, un requisito non presente nella classificazione.
• Ottimizzazione Specifica per il Task: Dimostra che diversi task a valle (predizione vs stima della verosimiglianza) richiedono metriche di sensibilità distinte e teoricamente fondate.

Gli autori rimangono modesti riguardo all'ambito di questi guadagni, notando che il metodo è più efficace nei regimi in cui il kernel presenta sufficiente eterogeneità (ovvero, al di fuori del regime di concentrazione esponenziale). Dichiarano esplicitamente che il metodo non migliora magicamente i task in cui la combinazione tra dati e feature map sottostante manca della struttura necessaria (come visto nello studio UCI-ZZ) e che il jitter specifico è calibrato empiricamente piuttosto che derivato teoricamente.