Mutual information-entropy plane: a new quantifier space for time series analysis

Nello studio dei sistemi complessi, dal fremito di un mercato azionario al firing dei neuroni in un cervello, gli scienziati cercano spesso modi per misurare quanto un sistema sia imprevedibile e quanto condivida con un altro. Due strumenti potenti hanno a lungo aiutato i ricercatori a navigare in questo terreno: l'entropia e l'informazione mutua. L'entropia è una misura del disordine o della casualità; un orologio perfettamente prevedibile ha una bassa entropia, mentre un sistema di puro rumore statico ha un'alta entropia. L'informazione mutua, invece, misura quanto due diversi sistemi ci dicano l'uno sull'altro. Se conoscere lo stato di un sistema permette di indovinare lo stato di un altro con alta precisione, essi condividono molta informazione mutua. Per decenni, gli scienziati hanno usato questi strumenti separatamente, tracciandoli su mappe per distinguere tra comportamenti ordinati, caotici e casuali. Tuttavia, rimaneva una lacuna significativa: sebbene questi strumenti potessero descrivere il caos di un singolo sistema o il legame tra due sistemi, faticavano a mostrare contemporaneamente l'incertezza interna di un sistema e la sua connessione con un altro, né potevano rivelare facilmente quale sistema stesse guidando l'altro.

Un team di ricercatori dall'Argentina ha ora proposto un nuovo modo per visualizzare queste relazioni, creando una mappa bidimensionale che combina questi concetti in un'unica immagine intuitiva. Prendendo la misura standard del disordine e accoppiandola con una misura dell'informazione condivisa, hanno costruito un piano in cui ogni punto racconta una storia completa su una coppia di serie temporali in interazione. Questo nuovo approccio, che chiamano il piano dell'informazione mutua-entropia, permette agli scienziati di vedere non solo quanto caotico sia un sistema o quanto sia strettamente legato a un partner, ma anche di determinare la direzione dell'influenza tra di essi. I ricercatori hanno testato questo metodo su tre distinti tipi di comportamento: movimento regolare e prevedibile; movimento deterministico caotico che appare casuale ma segue regole rigide; e puro rumore casuale. Hanno scoperto che questa nuova mappa poteva separare chiaramente questi diversi comportamenti, anche quando condividevano la stessa quantità di informazione, risolvendo un problema che i metodi precedenti non potevano affrontare.

Il cuore di questo nuovo metodo risiede nel modo in cui i ricercatori hanno organizzato i loro dati. Hanno preso la misura del disordine interno di un sistema e l'hanno posta su un asse, mentre la misura di quanta informazione condivideva con un partner è andata sull'altro. Quando hanno tracciato i risultati, è emerso un chiaro schema geometrico. I ricercatori hanno scoperto che la distanza di un punto dati da una specifica linea diagonale sulla mappa rivela qualcosa di profondo: il grado in cui un sistema rimane indipendente dall'altro. Se un punto si trova direttamente sulla linea, i due sistemi sono così strettamente accoppiati che conoscere uno spiega completamente l'altro. Se il punto si trova molto al di sotto della linea, significa che, anche se i sistemi potrebbero essere collegati, una parte significativa del comportamento di un sistema rimane un mistero guardando l'altro. Questa distanza verticale funge da misura diretta di "indipendenza informativa", un concetto che era difficile da visualizzare in precedenza.

Ciò che rende questa scoperta particolarmente potente è la sua capacità di rivelare la direzionalità senza calcoli complessi. In molti campi scientifici, determinare se il sistema A causi cambiamenti nel sistema B, o viceversa, richiede strumenti computazionali pesanti. I ricercatori hanno dimostrato che, tracciando entrambi i sistemi sullo stesso piano, la geometria stessa rivela il flusso di influenza. Se il sistema A guida il sistema B, il punto che rappresenta A si troverà più vicino alla linea diagonale rispetto al punto che rappresenta B. Questa asimmetria crea una semplice freccia visiva, che punta dal guidatore al guidato, permettendo ai ricercatori di vedere la direzione del flusso di informazione semplicemente guardando le posizioni relative dei punti. È un modo per vedere chi sta guidando e chi sta seguendo in una danza di dati, senza dover calcolare i passi della danza stessa.

Per dimostrare l'utilità della loro nuova mappa, i ricercatori hanno simulato tre scenari classici. Per prima cosa, hanno osservato il movimento regolare e prevedibile, come un pendolo che oscilla. Successivamente, hanno esaminato sistemi caotici, che sono deterministici ma appaiono casuali, come la famosa mappa logistica utilizzata per modellare la crescita della popolazione. Infine, hanno studiato il puro rumore bianco, che è completamente casuale. Hanno poi creato un secondo sistema per ogni caso che era una miscela dell'originale e di un certo rumore casuale, controllato da un fattore di accoppiamento. Mentre regolavano questo fattore, osservavano come i punti si muovevano sulla loro nuova mappa. Hanno scoperto che, mentre la quantità di informazione condivisa aumentava costantemente man mano che i sistemi diventavano più accoppiati, la posizione dei punti sulla mappa rimaneva distinta per ogni tipo di dinamica. I sistemi regolari, caotici e casuali occupavano regioni diverse del piano, permettendo loro di essere distinti chiaramente. Questa è stata una scoperta cruciale perché i metodi precedenti spesso faticavano a distinguere i sistemi caotici dal rumore casuale quando condividevano livelli simili di informazione.

I ricercatori hanno anche dimostrato che questo metodo funziona per applicazioni del mondo reale dove la direzione è importante. Tracciando l'entropia del sistema guida rispetto all'informazione condivisa, e poi tracciando l'entropia del sistema risultante rispetto alla stessa informazione condivisa, potevano vedere una netta divisione. Il punto per il sistema guida rimaneva più vicino alla linea di perfetta dipendenza, mentre il punto per il sistema risultante si allontanava di più. Questo divario visivo confermava che l'informazione fluiva in una sola direzione, dal guidatore al ricevitore. I ricercatori hanno notato che questo approccio offre un modo più diretto e geometrico per comprendere queste relazioni rispetto alle tecniche più vecchie e computazionalmente più costose.

Tuttavia, gli autori sono cauti nel sottolineare i limiti del loro nuovo strumento. Come ogni metodo che si basa su modelli statistici, è sensibile a come i dati vengono preparati. Il modo in cui le serie temporali vengono suddivise, la dimensione delle finestre utilizzate per l'analisi e la quantità di dati disponibili possono spostare la posizione dei punti sulla mappa. Per set di dati molto brevi o rumorosi, la mappa potrebbe perdere parte della sua nitidezza, rendendo più difficile distinguere differenze sottili. In questi casi, i ricercatori suggeriscono di trattare i risultati come tendenze generali piuttosto che come misurazioni precise. Nonostante questi vincoli, il nuovo piano fornisce un quadro robusto per confrontare dinamiche complesse. Offre un modo per caratterizzare simultaneamente l'incertezza interna di un sistema e la sua relazione con un altro, trasformando concetti matematici astratti in un paesaggio visivo che i ricercatori possono navigare con chiarezza.

Questo lavoro rappresenta un passo avanti significativo nell'analisi dei sistemi complessi, offrendo una visione unificata di incertezza e connessione. Combinando le misure di disordine e di informazione condivisa in uno spazio bidimensionale, i ricercatori hanno fornito uno strumento che è al contempo intuitivo e potente. Permette agli scienziati di vedere non solo quanto un sistema sia caotico o casuale, ma anche come si relaziona con altri e in quale direzione fluisce l'influenza. Che sia applicato ai mercati finanziari, all'attività cerebrale o ai sistemi fisici, questa nuova mappa promette di aiutare i ricercatori a districare l'intricata rete di causa ed effetto che definisce il nostro mondo complesso, trasformando schemi invisibili di informazione in una chiara storia visiva.