Sintesi Tecnica: Miglioramento delle Reti Neurali Ricorrenti Quantistiche tramite l'Amplitude Encoding

Problema

Le Reti Neurali Ricorrenti (RNN) sono uno standard per la modellazione delle dipendenze temporali, tuttavia le loro controparti quantistiche (QRNN) affrontano ostacoli significativi riguardanti la fattibilità hardware e la generalizzazione. Sebbene le Quantum RNN (QRNN) che utilizzano circuiti quantistici parametrizzati (PQC) offrano potenziali vantaggi in termini di espressività ed efficienza energetica, le implementazioni esistenti si affidano spesso all'angle encoding, che scala linearmente con il numero di feature ($O(N)$ qubit). L'amplitude encoding offre una maggiore efficienza di qubit ($O(\log N)$) e ha dimostrato una precisione superiore in altri compiti di machine learning quantistico, ma rimane sott esplorato nelle QRNN pienamente quantistiche a causa di due vincoli primari:

1. Complessità della Preparazione dello Stato: La preparazione esatta dello stato quantistico (QSP) richiede circuiti con profondità esponenziale, rendendoli impraticabili per i dispositivi a breve termine (near-term).
2. Perdita di Informazione: L'amplitude encoding standard richiede la normalizzazione dell'input, il che scarta l'ampiezza globale (magnitudo) dei vettori di feature. Questa perdita di informazione sulla magnitudo può distorcere la modellazione delle sequenze, poiché vettori con magnitudo diverse ma direzioni identiche vengono codificati in modo identico.

Inoltre, l'esecuzione di QRNN su hardware rumoroso introduce errori di coerenza, in particolare nel registro dello stato latente, il che degrada le prestazioni.

Metodologia

Gli autori propongono tre modifiche specifiche all'architettura canonica della QRNN per affrontare tali limitazioni. Lo studio utilizza due dataset finanziari (Yahoo Finance e Oxford-Man Institute) per prevedere i rendimenti giornalieri dell'S&P 500, impiegando sequenze di 8 giorni. I modelli sono simulati su Qiskit's AerSimulator (sia senza rumore che con il modello di rumore IBM Torino Heron r1).

1. Augmentation delle Feature con Ampiezza Pre-normalizzata

Per mitigare la perdita di informazione sulla magnitudo inerente all'amplitude encoding, gli autori introducono un passaggio di pre-elaborazione. Prima di normalizzare il vettore di feature per la codifica quantistica, aggiungono una nuova feature che rappresenta la norma $\ell_2$ (ampiezza pre-normalizzata) del vettore originale.

• Implementazione: Le $N$ feature originali sono scalate tramite MinMax. La nuova feature di ampiezza viene quindi scalata utilizzando uno scaler MinMax o MaxMin prima che l'intero vettore di dimensione $N+1$ venga normalizzato.
• Ipotesi: Lo scaling MaxMin della feature di ampiezza preserva meglio le relazioni relative tra i campioni rispetto allo scaling MinMax, permettendo al modello di distinguere tra vettori di magnitudo diverse.

2. EnQode: Amplitude Encoding Approssimata

Per superare la profondità esponenziale della QSP esatta, il paper integra EnQode, un approccio di machine learning classico per la preparazione approssimata dello stato.

• Meccanismo: EnQode utilizza il clustering k-means sul dataset normalizzato per identificare i centroidi. Un PQC Ansatz viene addestrato classicamente (utilizzando la rappresentazione simbolica e la backpropagation) per preparare lo stato quantistico corrispondente a ciascun centroide.
• Applicazione: Durante l'inferenza, viene identificato il centroide più vicino a un nuovo campione e i parametri pre-addestrati per quel centroide vengono utilizzati per generare uno stato con amplitude encoding approssimato $|\tilde{x}_t\rangle$. Ciò consente una scalabilità logaritmica nella profondità del circuito e nel numero di qubit.

3. Circuito a Registri di Feature Map Alternati

Per ridurre la profondità del circuito e gli errori di decoerenza, gli autori propongono un nuovo layout di circuito che utilizza registri di feature map (F) alternati.

• Meccanismo: Invece di riutilizzare un singolo registro F (il che richiederebbe il reset e la ri-codifica tra i time step pur preservando lo stato nascosto), la nuova architettura utilizza due registri F. Mentre l'Ansatz PQC elabora lo stato proveniente dal time step $t-1$ in un registro, il successivo stato di input $|x_t\rangle$ viene preparato nel secondo registro.
• Equivalenza: A differenza della "Staggered QRNN" (SQRNN) che scarta le informazioni per resettare i qubit, questa struttura alternata è matematicamente equivalente alla QRNN canonica su un processore ideale, ma riduce significativamente la profondità richiesta del circuito.

Risultati Chiave

Confronto delle Prestazioni (Modelli Base)

• Amplitude vs. Angle Encoding: L'Amplitude QRNN (senza modifiche) ha ottenuto un errore quadratico medio (MSE) di test inferiore, pari a 0.009, rispetto all'Angle QRNN (0.015) e alla RNN classica (0.012), nonostante avesse meno parametri addestrabili (28 contro 44). Ciò conferma che l'amplitude encoding offre una migliore generalizzazione per questo compito.

Impatto della Pre-elaborazione

• Feature di Ampiezza: L'aggiunta della feature di ampiezza pre-normalizzata ha migliorato le prestazioni.
  • Scaling MinMax: È confluito più velocemente sui dati di training ma ha mostrato una minore capacità di generalizzazione.
  • Scaling MaxMin: Ha ottenuto la migliore generalizzazione, riducendo l'MSE di test a 0.0056 (un miglioramento del 36% rispetto alla baseline Amplitude QRNN).

Impatto della Codifica Approssimata (EnQode)

• Fidelity vs. Profondità: EnQode ha raggiunto una fedeltà media della preparazione dello stato di 0.94.
• Simulazione Senza Rumore: L'uso di EnQode ha aumentato la perdita di test del 40% rispetto alla QSP esatta a causa degli errori di preparazione dello stato.
• Simulazione con Rumore: Quando simulando il modello di rumore IBM Torino, il modello EnQode ha superato il modello con QSP esatta. La riduzione della profondità del circuito (e la conseguente riduzione degli errori di decoerenza) ha compensato la penalità del 6% di infedeltà nella preparazione dello stato.

Impatto della Struttura del Circuito

• Scalabilità della Profondità: L'architettura con registro F alternato ha ridotto la profondità del circuito rispetto all'architettura standard.
• Scalabilità: Sebbene la differenza di profondità sia trascurabile per set di feature piccoli (4-8 feature), il paper dimostra che la profondità della struttura alternata scala in modo più favorevole all'aumentare del numero di feature, specialmente su processori con connettività limitata dove sono richiesti gate swap.

Significato e Claim

Il paper stabilisce un nuovo insieme di best practice per l'implementazione di QRNN su hardware near-term. Gli autori affermano che:

1. Generalizzazione: L'integrazione degli input con amplitude encoding con feature di ampiezza pre-normalizzate (specificamente utilizzando lo scaling MaxMin) migliora significativamente la generalizzazione del modello preservando l'informazione sulla magnitudo.
2. Fattibilità: L'amplitude encoding approssimata tramite EnQode è una strategia valida per le QRNN. Sebbene introduca un errore di preparazione dello stato, la risultante riduzione della profondità del circuito la rende superiore alla codifica esatta in ambienti rumorosi.
3. Efficienza: La struttura del circuito con registro F alternato fornisce un'implementazione matematicamente equivalente ma più superficiale delle QRNN, affrontando direttamente i vincoli di coerenza.

Gli autori concludono che queste tecniche non sono limitate alle QRNN, ma sono applicabili ad altri framework di apprendimento sequenziale quantistico, come il Quantum Reservoir Computing (QRC), i Quantum Extreme Learning Machines (QELM) e i Quantum Hidden Markov Models (QHMM), che condividono strutture simili di registro latente e codifica dei dati.