A Robust Framework for Model Order Selection in Correlated Large-Dimensional CES Noise

Sintesi Tecnica: Un Framework Robusto per la Selezione dell'Ordine del Modello in Rumore CES Correlato ad Alta Dimensionalità

Definizione del Problema
Il documento affronta la fondamentale sfida dell'elaborazione dei segnali relativa alla stima del numero di sorgenti statisticamente significative (ordine del modello) in osservazioni rumorose. Mentre i metodi classici come il Criterio di Informazione di Akaike (AIC) e le tecniche di subspace funzionano bene in presenza di rumore bianco gaussiano, essi diventano inaffidabili nei moderni contesti ad alta dimensionalità caratterizzati da due specifiche complessità:

1. Rumore Correlato: Il rumore possiede una struttura di correlazione nota o ignota (specificamente modellata qui come una matrice di dispersione a struttura Toeplitz).
2. Non-Gaussianità: Il rumore segue una distribuzione Complessa Ellitticamente Simmetrica (CES), che include comportamenti a code pesanti o impulsivi (ad esempio, texture K-distribuite o Student-t) che violano le assunzioni gaussiane.

Nel regime di alta dimensionalità in cui la dimensione dell'osservazione $m$ e la dimensione del campione $N$ crescono proporzionalmente ($m/N \to c > 0$), la Matrice di Covarianza Campionaria (SCM) non fornisce stime consistenti, e le standard soglie di rilevamento basate sugli autovalori diventano invalide a causa dell'interazione tra correlazione e code pesanti.

Metodologia
Gli autori propongono un framework robusto unificato a due stadi, applicabile a tre distinti rami di stima. La filosofia centrale consiste nel prima "sbiancare" (whiten) i dati per rimuovere la struttura di correlazione ignota e poi applicare la Teoria delle Matrici Casuali (RMT) per separare gli autovalori del segnale dal nucleo (bulk) del rumore.

1. Stadio 1: Sbiancamento Robusto tramite Rettificazione Toeplitz
   Il framework stima la matrice di dispersione Toeplitz $C$ ignota del rumore e la inverte per sbiancare le osservazioni. Sono stati sviluppati tre stimatori specifici per questo passaggio:

• Basato su SCM: Utilizza la Matrice di Covarianza Campionaria rettificata a una struttura Toeplitz.
• Basato su Maronna: Utilizza lo stimatore M di Maronna (un approccio parametrico robusto) rettificato a struttura Toeplitz.
• Basato su Tyler: Utilizza lo stimatore M di Tyler (un approccio privo di distribuzione) rettificato a struttura Toeplitz.

Un'innovazione teorica chiave è l'operatore di "rettificazione Toeplitz", che proietta la matrice di dispersione stimata nello spazio delle matrici Toeplitz. Gli autori dimostrano che questo passaggio sopprime asintoticamente il contributo a basso rango del segnale, garantendo che lo stimatore rimanga consistente anche in presenza di sorgenti.

2. Stadio 2: Soglia degli Autovalori basata su RMT
   Una volta sbiancati i dati, viene stimata una matrice di dispersione robusta dalle osservazioni sbiancate. L'ordine del modello viene determinato contando gli autovalori che superano una specifica soglia teorica derivata dalla RMT:

• Per i rami SCM e Maronna: La soglia è un'espressione esplicita in forma chiusa $t = \frac{\Phi_\infty(1 + \sqrt{c})^2}{\xi (1 - c \Phi_\infty)}$, dove $\Phi_\infty$ e $\xi$ dipendono dalla funzione di peso e dalla distribuzione della texture.
• Per il ramo Tyler: La soglia si semplifica nel limite superiore della legge di Marčenko–Pastur, $(1 + \sqrt{c})^2$, rendendola indipendente dalla distribuzione.

Contributi Chiave
Il documento stabilisce i seguenti contributi teorici e pratici:

• Consistenza Quasi Sicura: Gli autori dimostrano che gli stimatori rettificati Toeplitz (SCM, Maronna e Tyler) stimano consistentemente la vera matrice di dispersione $C$ in presenza di rumore CES correlato e sorgenti (Teoremi 1, 3 e 5).
• Soglie RMT Esplicite: Derivano soglie degli autovalori esplicite e in forma chiusa che separano il segnale dai componenti del rumore nel regime di crescita proporzionale. Ciò include una nuova soglia per lo stimatore di Maronna sotto rumore correlato (Teoremi 2 e 4) e l'adattamento del limite di Marčenko–Pastur per lo stimatore di Tyler (Teorema 6).
• Pipeline a Tre Rami: Il framework offre una pipeline flessibile:
  • Ramo SCM: Un approccio di base.
  • Ramo Maronna: Un approccio parametrico robusto che offre prestazioni migliori nel campione finito quando la distribuzione della texture è nota o ben approssimata.
  • Ramo Tyler: Un approccio privo di distribuzione che non richiede conoscenza pregressa della distribuzione della texture del rumore, utilizzando la soglia universale di Marčenzione–Pastur.
• Stima dei Parametri Guidata dai Dati: Il documento fornisce algoritmi pratici per stimare i fattori di scala ignoti (come $\xi$ e l'aspettativa della texture) direttamente dai dati utilizzando approssimazioni leave-one-out, consentendo l'applicazione del metodo senza conoscenza distributiva pregressa.

Risultati
La metodologia è stata validata attraverso estese simulazioni e applicazioni su dati reali:

• Dati Sintetici: Le simulazioni Monte Carlo dimostrano che i metodi proposti (M1 e M2) superano significativamente i metodi non sbiancati (M3) e l'AIC, particolarmente nei regimi di basso SNR e quando le texture del rumore deviano dalle assunzioni gaussiane. Il ramo Maronna ha mostrato una robustezza superiore al mismatch della texture rispetto al ramo SCM.
• Imaging Iperspettrale: Applicato ai dataset Indian Pines, SalinasA, PaviaU e Cars. I metodi proposti hanno identificato costantemente un numero di sorgenti fisicamente plausibile, mentre l'AIC e i metodi non sbiancati hanno ampiamente sovrastimato l'ordine del modello (ad esempio, stimando >200 sorgenti invece di circa 16).
• Rilevamento di Sorgenti EEG: Applicato al dataset MAMEM EEG SSVEP ($m=256, N=500$); i criteri classici (AIC, MDL, KN) sono falliti, stimando ordini di modello vicini alla dimensionalità dei dati ($\approx 255$). Il framework robusto ha fornito stime stabili tra 6,7 e 7,8 sorgenti con bassa varianza.
• Dati Finanziari: Applicato a 100 portafogli Fama–French ($m=100, N=150$). I metodi robusti hanno identificato tra 2 e 5 fattori dominanti, allineandosi alle note strutture fattoriali finanziarie, mentre AIC e MDL hanno nuovamente sovrastimato significativamente il conteggio dei fattori.

Significatività e Rivendicazioni
Il documento sostiene che la sua principale significatività risieda nel fornire il primo framework rigoroso per la selezione dell'ordine del modello che gestisce simultaneamente alta dimensionalità, strutture di correlazione ignote (Toeplitz) e rumore a code pesanti non-gaussiano senza richiedere conoscenza pregressa della distribuzione del rumore (nel ramo Tyler).

Gli autori sottolineano che i metodi esistenti assumono o il rumore bianco, o la correlazione nota, o la gaussianità, risultando inefficaci per applicazioni pratiche come l'imaging iperspettrale, l'analisi EEG e l'ottimizzazione di portafogli finanziari, dove tali assunzioni sono regolarmente violate. Stabilendo la consistenza quasi certa e derivando soglie esplicite, il lavoro colma il divario tra la teoria delle Matrici Casuali e l'elaborazione dei segnali robusta e pratica, offrendo uno strumento principato per la selezione dei fattori e la stima della covarianza in regimi di alta dimensionalità impegnativi.