Quantifying the complexity of trajectory ensembles with clustering-weighted multivariate multiscale sample entropy

Sintesi Tecnica: Quantificazione della Complessità degli Insiemi di Traiettorie con l'Entropia di Campionamento Multiscala Multivariata Pesata per Cluster (CWMMSE)

1. Definizione del Problema

Nelle scienze fisiche, biologiche e ingegneristiche, i sistemi sono sempre più osservati come insiemi di traiettorie (ad es., costellazioni di satelliti, coorti cliniche, particelle fluide) piuttosto che come singole serie temporali. Le misure di complessità esistenti, come la Sample Entropy (SampEn), l'Approximate Entropy e la Multiscale Entropy (MSE), caratterizzano l'imprevedibilità di singole serie temporali. Tuttavia, applicare queste misure agli insiemi semplicemente mediando la complessità delle singole traiettorie scarta la diversità strutturale della popolazione.

Il documento identifica un limite critico in questo approccio di "media": esso confonde la complessità individuale (quanto una singola traiettoria è irregolare) con la diversità dell'insieme (quanto varia la popolazione di traiettorie). Di conseguenza, la media non può distinguere tra:

1. Una popolazione ridondante dove ogni membro esibisce lo stesso comportamento intricato.
2. Una popolazione diversificata dove coesistono molti comportamenti distinti e individualmente semplici.

Gli autori sostengono che una misura fedele della complessità di un sistema debba tenere conto simultaneamente dell'irregolarità dei membri e della diversità della popolazione, poiché questi due componenti possono divergere significativamente nei dati reali.

2. Metodologia: Entropia di Campionamento Multiscala Multivariata Pesata per Cluster (CWMMSE)

Gli autori propongono la CWMMSE, una metrica che fonde la complessità individuale e la diversità dell'insieme in un singolo valore di entropia pesata. La costruzione procede in tre fasi:

A. Complessità Intra-Traiettoria (Componente Individuale)
Per ogni traiettoria $T_j$ in un insieme di $M$ serie temporali multivariate, gli autori calcolano la Multivariate Multiscale Sample Entropy (MMSE).

• Coarse-graining (Raggruppamento grossolano): alla scala temporale $s$, i canali vengono mediati su blocchi non sovrapposti.
• Delay Embedding (Embedding ritardato): vengono formati vettori di ritardo compositi attraverso tutti i canali.
• Calcolo dell'Entropia: viene calcolata la probabilità condizionata che due segmenti che corrispondono alla dimensione di embedding $d$ corrispondano anche quando estesi di un campione per canale; il logaritmo negativo di questa probabilità fornisce $S(T_j)$.
• Questo passaggio cattura la complessità dinamica intrinseca di ogni singola traiettoria.

B. Diversità dell'Insieme (Componente di Popolazione)
Le traiettorie vengono raggruppate in schemi comportamentali tramite clustering.

• Clustering: viene utilizzato l'agglomerativo con legame Ward (Ward linkage) su una metrica di dissimilarità delle traiettorie (default: distanza euclidea punto a punto).
• Risoluzione: il clustering viene tagliato a un'altezza specifica (definita come una frazione della massima distanza di legame) per definire i modelli comportamentali.
• Metrica di Diversità: la distribuzione della popolazione su questi $k$ cluster viene quantificata utilizzando l'entropia di Shannon dei cluster, $H(C) = -\sum p_i \ln p_i$, dove $p_i$ è la frazione di traiettorie nel cluster $i$. Questa è normalizzata per $\ln M$ per ottenere $\hat{H}$.

C. Fusione: L'Entropia Pesata
La CWMMSE combina questi ingredienti utilizzando il framework dell'entropia pesata di Belis e Guiaşu.

• Formula: $S_{CWMMSE} = \sum_{i=1}^{k} (-p_i \ln p_i) S_i$, dove $S_i$ è la MMSE media delle traiettorie nel cluster $i$.
• Interpretazione: si tratta dell'entropia di Shannon della distribuzione dei pattern della popolazione, dove ogni esito (pattern) è pesato dalla propria complessità dinamica.
• Base Teorica: gli autori dimostrano che lo stimatore plug-in empirico della CWMMSE è fortemente consistente per una partizione finita fissa al tendere di $M \to \infty$.

Distinzione Chiave dalle Alternative:

• Vs. Media: la media ($\bar{S}$) ignora la diversità.
• Vs. Indici di Diversità (es. Entropia Quadratica di Rao): questi pesano per dissimilarità a coppie, fallendo nel distinguere tra una popolazione diversificata di comportamenti complessi e una popolazione diversificata di comportamenti triviali (prevedibili).
• Vs. Prodotto Separabile ($H(C) \cdot \bar{S}$): sebbene il prodotto rispetti i limiti di entrambi gli ingredienti, esso scarta l'accoppiamento complessità-diversità. La CWMMSE mantiene la covarianza tra la complessità di un pattern e la sua prevalenza (sorpresa), che è non trascurabile nei dati reali.

3. Contributi Principali

1. Definizione e Teoria: Introduzione della CWMMSE come istanza specifica dell'entropia pesata di Belis e Guiaşu, applicata agli insiemi di traiettorie, con una prova della forte consistenza dello stimatore empirico sotto risoluzione fissa.
2. Decomposizione: Dimostrazione che la complessità di un sistema si decompone in due componenti divergenti: la complessità intra-traiettoria e la diversità tra le traiettorie.
3. Necessità di Ingredienti Duali: Validazione attraverso due "controlli" che mostrano come le misure a ingrediente singolo falliscano:
   • Controllo Cardiaco: l'entropia media classifica erroneamente i cuori malati come più complessi di quelli sani; la CWMMSE identifica correttamente la coorte malata come meno complessa a causa di un collasso nella diversità della popolazione.
   • Nulla Orbitale: gli indici basati solo sulla diversità (come l'entropia di Rao) classificano una nuvola di detriti satellitari perfettamente prevedibili come altamente complessi; la CWMMSE restituisce correttamente una complessità vicina allo zero perché le singole traiettorie sono triviali.
4. Validazione Cross-Domain: Applicazione della misura attraverso undici sistemi (caos, deriva oceanica, ECG, orbite satellitari, turbolenza, cicloni, ecc.) senza tuning specifico per sistema, mostrando che la decomposizione è universale.

4. Risultati

• Caos Deterministico: La CWMMSE ordina correttamente i regimi dei sistemi Lorenz e Rössler, raggiungendo il picco nei regimi caotici e avvicinandosi a zero nei regimi a punto fisso/periodico. Distingue il caos non lineare dai surrogati di rumore lineare.
• Deriva Oceanica: La Corrente del Golfo (flusso energetico) ha una complessità individuale maggiore (percorsi tortuosi) ma una complessità di sistema inferiore (strutture ridondanti, coerenti) rispetto al Mare di Sargasso (giro tranquillo), che ha una complessità individuale inferiore ma una complessità di sistema maggiore a causa di percorsi diversi e indipendenti. La CWMMSE classifica correttamente il Sargasso come il sistema più complesso.
• Coorti ECG: In coorti con infarto del miocardio (MI) rispetto a coorti sane, la complessità individuale per record è quasi identica (o leggermente superiore in MI). Tuttavia, la coorte sana esibisce una diversità d'insieme significativamente più alta (morfologie più varie). La CWMMSE inverte l'ordinamento dell'entropia media, identificando correttamente la popolazione sana come più complessa.
• Orbite Satellitari: Una nuvola di detriti di orbita terrestre bassa è massimamente diversificata in posizione ma individualmente prevedibile. Gli indici basati solo sulla diversità classificano questo come il sistema più complesso; la CWMMSE assegna correttamente una complessità prossima allo zero.
• Altri Sistemi: La misura distingue con successo il flusso turbolento da quello laminare, ordina le tracce dei cicloni tropicali in base all'erraticismo e rileva un collasso nella complessità del sistema durante l'ondata di onde del terremoto di Tohoku del 2011.

5. Significato e Rivendicazioni

L'articolo sostiene che la complessità della popolazione debba essere misurata anziché mediata. L'argomento centrale è che la complessità di un insieme non è semplicemente la somma o la media delle sue parti; è una proprietà distinta che sorge dall'interazione tra l'irregolarità individuale e la diversità della popolazione.

• Significato Teorico: La CWMMSE fornisce un framework principato, basato sulla teoria dell'informazione (entropia pesata), che unifica i concetti di complessità dinamica e diversità funzionale. Risolve l'ambiguità per cui un sistema può essere "complesso" in un senso (traiettorie individuali) ma "semplice" in un altro (popolazione ridondante), o viceversa.
• Significato Pratico: La misura offre uno strumento diagnostico per campi che vanno dalla fisiologia (rilevare malattie tramite la perdita di diversità della popolazione) alla consapevolezza della situazione spaziale (distinguere detriti complessi da orbite prevedibili).
• Limiti e Ambito: Gli autori notano con modestia che la CWMMSE è uno strumento comparativo all'interno di uno studio, dipendente dalla risoluzione del clustering e dalla dimensione dell'insieme. Essa ordina sistemi di comparabile stochasticità piuttosto che separare la struttura dal rumore (poiché la Sample Entropy interpreta il rumore come altamente irregolare). Il parametro di risoluzione è trattato come un'impostazione esplicita e riportabile piuttosto che un fastidio da eliminare.

In conclusione, l'articolo stabilisce che, per gli insiemi di traiettorie osservati, una misura fedele della complessità deve catturare sia l'intricatezza dei membri che la varietà della popolazione, un requisito soddisfatto dall'entropia di campionamento multiscala multivariata pesata per cluster.