The Preisach Extremum Stack is a Shannon-Minimal Sufficient Statistic for Rate-Independent Functionals

Sintesi Tecnica: Lo Stack degli Estremi di Preisach come Statistica Sufficiente di Shannon-Minima

Enunciato del Probleo
Il saggio affronta la caratterizzazione informazionale della classe $\mathcal{R}$ di tutti i funzionali computabili, causali e indipendenti dalla velocità (rate-independent). Un funzionale è indipendente dalla velocità se il suo output è invariante rispetto a riparametrizzazioni temporali strettamente crescenti (cambiamenti temporali monotoni). Nel contesto della modellazione dell'isteresi, specificamente l'operatore di Preisach, l'oggetto algoritmico centrale è lo stack degli estremi ($\Pi_n$), una sequenza nidificata di massimi e minimi locali alternati che sopravvivono alla regola di "cancellazione" (wiping-out). Mentre un precedente risultato ha stabilito che $\Pi_n$ è una statistica sufficiente Kolmogorov-minima per $\mathcal{R}$ (minimizzando la lunghezza della descrizione nel caso peggiore), questo saggio mira a stabilire il corrispondente risultato shannoniano: se $\Pi_n$ minimizza l'informazione mutua con la sequenza di input sotto arbitrarie misure di probabilità.

Metodologia
Gli autori impiegano un framework logico in tre fasi che combina l'analisi funzionale, i processi stocastici a tempo discreto e la teoria dell'informazione:

1. Caratterizzazione dell'Indipendenza dalla Velocità: Gli autori dimostrano prima che la classe $\mathcal{R}$ ammette una fattorizzazione concreta. Dimostrano che ogni funzionale $F \in \mathcal{R}$ può essere espresso come una funzione computabile dello stack degli estremi $\Pi_n$ al tempo corrente. Ciò si basa sulla proprietà per cui due sequenze di input che producono lo stesso stack sono correlate da una riparametrizzazione temporale monotona (fino ai punti non estremi) e, pertanto, generano output identici per qualsiasi funzionale indipendente dalla velocità.
2. Deduzione dell'Uguaglianza dell'Informazione Mutua: Utilizzando il teorema di caratterizzazione, gli autori mostrano che l'output $F[u](n)$ è una funzione deterministica di $\Pi_n$. Di conseguenza, l'informazione mutua tra la storia dell'input $u_{0:n}$ e l'output $F[u](n)$ è identica all'informazione mutua tra lo stack $\Pi_n$ e l'output.
3. Dimostrazione della Minimalità: Per dimostrare che $\Pi_n$ è minima, gli autori utilizzano una famiglia finita di indicatori di funzionali definita dalla presenza di specifiche coppie $(M, m)$ nello stack. Argomentano che qualsiasi statistica sufficiente $S$ per la classe $\mathcal{R}$ deve consentire la ricostruzione di queste funzioni indicatrici e, quindi, deve consentire la ricostruzione dello stack $\Pi_n$ stesso. Applicando la Disuguaglianza di Elaborazione dei Dati (Data Processing Inequality), stabiliscono che l'informazione mutua $I(u_{0:n}; \Pi_n)$ è minore o uguale a $I(u_{0:n}; S)$ per qualsiasi altra statistica sufficiente $S$.

Contributi Chiave e Risultati

• Teorema di Caratterizzazione (Teorema 5): Il saggio stabilisce che $F \in \mathcal{R}$ se e solo se $F[u](n) = f(\Pi_n)$ per una funzione computabile $f$. Ciò prova che lo stack degli estremi è un invariante completo per i funzionali indipendenti dalla velocità sulla griglia discreta.
• Uguaglianza dell'Informazione Mutua (Teorema 9): Per qualsiasi misura di probabilità sulla sequenza di input e per qualsiasi $F \in \mathcal{R}$, l'uguaglianza $I(u_{0:n}; F[u](n)) = I(\Pi_n; F[u](n))$ è soddisfatta. Questo risultato indica che scartare la temporizzazione degli estremi e i valori dei punti non estremi tramite il processo dello stack comporta una perdita nulla di informazione mutua riguardo a qualsiasi query indipendente dalla velocità al tempo finale.
• Minimalità di Shannon (Teorema 13): Il risultato principale prova che $\Pi_n$ è una statistica sufficiente di Shannon-minima. Tra tutte le variabili casuali $S$ dalle quali tutti i query in $\mathcal{R}$ sono computabili, $\Pi_n$ conserva la minima quantità di informazione di Shannon riguardo alla storia dell'input $u_{0:n}$.
• Implicazione per la Stima (Proposizione 15): Gli autori dimostrano un'applicazione pratica per la stima della misura di Preisach $\mu$ tramite Minimi Quadrati Non Negativi (NNLS). Mantenendo online il processo dello stack $(\Pi_t)_{t=0}^n$, il sistema NNLS può essere assemblato senza memorizzare l'intera storia dell'input $u_{0:n}$. Ciò riduce i requisiti di memoria da $O(n)$ a $O(\max_t |\Pi_t|)$, offrendo risparmi significativi per segnali a variazione lenta, mentre la complessità computazionale per step rimane $O(k \cdot L^2)$, dove $k$ è la dimensione dello stack e $L$ è la risoluzione della griglia.

Significatività e Rivendicazioni
Il saggio sostiene che il suo contributo primario sia l'istituzione del contrappunto di Shannon-minimalità alla precedentemente nota caratterizzazione della complessità di Kolmogorov. Gli autori sottolineano che l'uguaglianza dell'informazione mutua è una diretta conseguenza della struttura deterministica di \mathcal{R rivelata dal teorema di caratterizzazione, piuttosto che un profondo risultato probabilistico. Il vero contributo probabilistico è il teorema di minimalità, che conferma che lo stack è la rappresentazione più efficiente dal punto di vista informativo per le query indipendenti dalla velocità.

Gli autori distinguono tra lo stack finale $\Pi_n$, sufficiente per una singola query al tempo $n$, e il processo dello stack $(\Pi_t)$, necessario per l'intera traiettoria di query. Chiariscono che il guadagno di stima è ottenuto attraverso il mantenimento online del processo per ridurre lo stoccaggio della storia dell'input, non comprimendo la traiettoria in un singolo stato finale.

Infine, il saggio nota che mentre la minimalità di Kolmogorov vale nel caso peggiore per singole sequenze, la minimalità di Shannon vale in media sotto qualsiasi misura di probabilità. Gli autori affermano che nessuna delle due caratterizzazioni implica l'altra, ma entrambe identificano lo stack degli estremi come la rappresentazione canonica a informazione minima per la classe dei funzionali indipendenti dalla velocità. Il saggio conclude ponendo questioni aperte riguardanti l'estensione di questi risultati a operatori di Preisach a valori vettoriali e le cariche di caratterizzazione di Fisher–Neyman per la stima dell'intera traiettoria.