One Truncated Likelihood Expansion: Estimation, Testing, and Classification as a Single Captured-Fraction Functional

Sintesi Tecnica: Espansione di una Verosimiglianza Troncata

Enunciato del Problema
Nell'inferenza statistica, la stima dei parametri, il test di ipotesi e la classificazione dei segnali (decomposizione) sono tradizionalmente trattati come compiti distinti, ciascuno governato da macchinari teorici e metriche di qualità separate: l'efficienza dello stimatore, la probabilità di errore/ritardo di rilevamento e l'errore di ricostruzione, rispettivamente. Il saggio postula che questi compiti siano spesso studiati isolatamente, oscurando i loro limiti strutturali condivisi. Il problema centrale affrontato è se questi tre compiti possano essere unificati sotto un unico oggetto e una singola misura di "completezza", in particolare nei regimi in cui le classiche espansioni ortogonali (ad esempio, i polinomi di Hermite) falliscono, come nel caso di distribuzioni a coda pesante.

Metodologia
Il saggio propone un quadro unificato basato sull'espansione troncata della log-verosimiglianza in una base fissa, possibilmente non ortogonale $\{\phi_i\}$. La metodologia centrale prevede:

1. L'Oggetto Maestro: Una serie di verosimiglianza di Kunchenko troncata definita come:
   $$\log p(x; \theta) = \psi_0(\theta) + \sum_{i \le m} k_i(\theta) (\phi_i(x) - \psi_i) + R_m(x; \theta)$$
   dove i coefficienti sono risolti tramite un sistema normale (minimi quadrati generalizzati) e $R_m$ è il residuo di troncamento ortogonale.

2. Tre Compiti da una Singola Serie: I tre compiti statistici sono derivati come operazioni elementari su questa singola serie:

   • Stima: La derivazione rispetto al parametro ($\partial_\theta$) produce la funzione di score, portando a uno stimatore di massimizzazione polinomiale.
   • Rilevamento: La differenziazione tra due ipotesi ($\Delta$) produce il rapporto di log-verosimiglianza (LLR), portando a un test di Neyman–Pearson. Una versione sequenziale si forma componendo questa differenza con il tempo.
   • Decomposizione: La norma del residuo di troncamento fornisce l'errore di ricostruzione.

3. Il Funzionale Unificante: La qualità di tutti e tre i compiti è misurata da un singolo funzionale, il funzionale della frazione catturata $\kappa_m$:
   $$\kappa_m(z; \nu) = \frac{\| \text{proj}_{V_m} \mathring{z} \|_\nu^2}{\| \mathring{z} \|_\nu^2}$$
   dove $V_m$ è lo sottospazio spaziato dalle funzioni di base centrate, e $\mathring{z}$ è l'oggetto centrato di interesse (score, LLR o log-densità).

   • Per la stima, $z$ è lo score $S$; la lettura è l'efficienza relativa asintotica $g$.
   • Per il rilevamento, $z$ è l'LLR $\Lambda$; la lettura è il rapporto catturato $c$.
   • Per la decomposizione, $z$ è la log-densità; la lettura è $R^2$.

4. Selezione della Base: Il quadro utilizza basi frazionarie non ortogonali (ad esempio, $\rho_a(x) = \text{sgn}(x)|x|^a$) specificamente per affrontare le distribuzioni a coda pesante dove i sistemi polinomiali/Hermite non sono integrabili al quadrato.

Contributi Chiave

• Unificazione Strutturale (C1): Il saggio dimostra che stima, rilevamento e decomposizione non sono tre metodi separati ma un unico oggetto letto in tre modi. La loro qualità è governata dallo stesso funzionale $\kappa_m$ applicato a diversi oggetti. Fondamentalmente, il saggio chiarisce che queste letture sono generalmente numeri differenti (ad esempio, nella legge di Laplace, $g$ e $c$ crescono a velocità diverse), ma raggiungono il valore di 1 simultaneamente se e solo se la base cattura la statistica sufficiente (Teorema 1).
• Completezza tramite Cambio di Base (C2): Un importante contributo teorico è un teorema di completezza (Teorema 3) che mostra come, sotto code pesanti (indice di coda $\alpha$), un sistema frazionario non ortogonale con esponenti che si accumulano in $(0, \alpha/2)$ sia denso in $L^2(\nu)$. Ciò ripristina la chiusura $L^2$ che i sistemi polinomiali ortogonali perdono in questi regimi, permettendo alla frazione catturata di avvicinarsi a 1 dove le espansioni di Hermite divergono.
• Caratteristiche Operative (C3): La frazione catturata è identificata come la caratteristica operativa sia per la stima che per il rilevamento.
  • Stima: $g$ è l'efficienza relativa asintotica (ARE) dello stimatore rispetto allo stimatore di massima verosimiglianza.
  • Rilevamento: $g$ determina la potenza asintotica locale e l'efficacia relativa di Pitman del test.
    Questo fornisce una dichiarazione di potenza unificata per l'inferenza a coda pesante dove le basi ortogonali non possono definire l'efficacia.
• Uguaglianza Locale tra i Rami (C4): Il saggio prova che nel limite locale di un gap di ipotesi evanescente ($\delta \to 0$), la lettura del rilevamento $c(\delta)$ converge alla lettura della stima $g$ (Proposizione 2), formalizzando la forma di frazione catturata della Local Asymptotic Normality (LAN).
• Ancora Gaussiana e Verifica Meccanica (C5): Un modello di spostamento di covarianza gaussiana funge da "ancora" dove la proiezione di ordine due è esatta. Il saggio fornisce prove verificate meccanicamente (in Lean 4/Mathlib) verificando che su questa ancora, la statistica sequenziale è uguale al rapporto di verosimiglianza esatto, garantendo che l'ottimalità CUSUM classica si applichi direttamente.
• Principio di Riduzione (C7): Il quadro produce un corollario di invarianza: qualsiasi trasformazione che lasci invariata la valutazione della base lascia invariate tutte le letture dei rami (score, LLR, errore di ricostruzione). Ciò recupera il principio di riduzione come una conseguenza generativa del fattorizzamento della singola serie.

Risultati
Il saggio valida la sua teoria attraverso uno studio sintetico controllato con 15 controlli pre-specificati:

• Terminazione: Sulla famiglia Gaussiana, tutte le letture ($g, c, R^2$) raggiungono 1 esattamente quando la base include la statistica sufficiente (ad esempio, $x^2$ per lo spostamento della varianza).
• Crescita Congiunta: Sulla distribuzione di Laplace, tutte le letture crescono verso 1 man mano che la base viene arricchita, sebbene a velocità diverse a seconda dell'oggetto.
• Uguaglianza Locale: Gli esperimenti numerici confermano che, mentre il gap di ipotesi $\delta$ si restringe, la lettura del rilevamento converge alla lettura della stima.
• Vantaggio delle Code Pesanti: Su distribuzioni Student-$t_3$ e Cauchy, la base frazionaria cattura una significativa informazione di Fisher (ad esempio, $g \approx 0.96$ per $t_3$) dove la matrice Gram polinomiale diverge. La base ortogonale fallisce nel fornire un'efficacia definita in questi regimi.
• Completezza: Man mano che gli esponenti frazionari si densificano, la frazione catturata si avvicina a 1 sia per i target a coda leggera (Laplace) che per quelli a coda pesante (Student-$t_3$).

Significato e Rivendicazioni
Il saggio rivendica modestamente di fornire una unificazione strutturale piuttosto che un'identità numerica. Argomenta che la visione del "singolo scalare" dell'inferenza è valida solo su specifici ancoraggi terminanti (famiglie esponenziali) o nei limiti locali. Il significato primario risiede nel:

1. Unificare la Teoria: Mostrare che tre rami distinti della statistica condividono un singolo funzionale di misura della completezza.
2. Estendere alle Code Pesanti: Dimostrare che le basi frazionarie non ortogonali non sono solo una comodità, ma necessarie per ripristinare la completezza $L^2$ e definire l'efficacia dell'inferenza su leggi a coda pesante dove i sistemi polinomiali classici falliscono.
3. Chiarezza Operativa: Collegare la frazione catturata direttamente all'efficienza relativa asintotica e alla potenza locale, fornendo una singola metrica per valutare la "bontà" di una base attraverso i compiti di stima, rilevamento e decomposizione.

Il lavoro non sostiene che le tre letture siano numeri identici in generale, ma che sono strutturalmente collegate, crescono insieme con l'arricchimento della base e coincidono sotto condizioni specifiche (sufficienza o limiti locali). Il nucleo verificato meccanicamente è limitato all'ancora Gaussiana, mentre i risultati sulle code pesanti e sulle basi generali si basano su prove analitiche e verifica numerica.