A framework for the use of generative modelling in non-equilibrium statistical mechanics

Questo articolo propone un framework per modellare sistemi fuori equilibrio e auto-organizzanti utilizzando modelli generativi e il principio dell'energia libera variazionale, il quale offre una spiegazione trattabile e parsimoniosa della dinamica dei sistemi come una forma di inferenza variazionale senza richiedere che il sistema esegua letteralmente l'inferenza.

L'essenziale

Il quadro generale: Il gioco dell' "As If" (Come se)

Immaginate di osservare uno stormo di uccelli che ruota nel cielo. Per uno scienziato, questi uccelli sono solo oggetti fisici che si muovono secondo il vento, la gravità e la forza muscolare. Ma questo saggio suggerisce un modo diverso di guardarli.

Gli autori sostengono che possiamo descrivere questi uccelli come se stessero facendo matematica. Nello specifico, possiamo fingere che stiano costantemente indovinando dove dovrebbero trovarsi e regolando il loro volo per far sì che le loro ipotesi corrispondano alla realtà. Non stanno effettivamente seduti in cielo a fare calcolo; sono solo oggetti fisici. Ma descriverli come se stessero facendo delle ipotesi rende molto più facile a noi (gli scienziati) capire e prevedere come si muovono.

Il saggio chiama questo il Principio della Energia Libera (FEP). È uno strumento che ci permette di modellare sistemi complessi e disordinati (come cellule, cervelli o persino il meteo) fingendo che stiano cercando di minimizzare la "sorpresa".

Il concetto centrale: La "Coperta di Markov" (Il muro invisibile)

Per capire come funziona, immaginate una casa con un muro molto speciale.

• Dentro la casa: Gli "Stati Interni" (la famiglia che vive lì).
• Fuori dalla casa: Gli "Stati Esterni" (il meteo, i vicini, il mondo).
• Il Muro: La "Coperta di Markov". Questo è il confine (come gli organi sensoriali o la pelle) che separa l'interno dall'esterno.

Il muro ha due tipi di finestre:

1. Finestre Sensoriali: Puoi vedere fuori, ma non puoi toccare direttamente l'esterno.
2. Porte Attive: Puoi spingere sull'esterno (come aprire una finestra per far entrare l'aria), ma non puoi vedere attraverso di esse.

Il saggio sostiene che se un sistema ha questo tipo di muro, tende naturalmente a rimanere in uno stato in cui non è "sorpreso" da ciò che passa attraverso le finestre sensoriali. Se un pesce è in acqua, si aspetta di sentirsi bagnato. Se improvvisamente si sente asciutto (alta sorpresa), è nei guai. Il sistema si muove naturalmente per rimanere nella zona "umida".

Il trucco magico: "Sorpresa" e "Energia Libera"

Gli autori introducono due idee chiave:

1. Sorpresa (Surprisal): Quanto un sistema è scioccato dalla sua situazione attuale. Se sei un pesce e sei in acqua, la tua sorpresa è bassa. Se sei sulla terraferma, la tua sorpresa è alta.
2. Energia Libera Variazionale: Questo è un "limite superiore" matematico sulla sorpresa. Pensatelo come un tabellone dei punteggi.
   • Il sistema non conosce il punteggio esatto della sua sorpresa (perché non può vedere l'intero mondo).
   • Inveve, usa un modello basato su una "migliore ipotesi" per calcolare un tabellone chiamato Energia Libera.
   • Il saggio sostiene che i sistemi fisici tendono naturalmente a minimizzare questo punteggio.

L'analogia: Immaginate di giocare a un videogioco dove non potete vedere l'intera mappa. Vedete solo un piccolo cerchio intorno al vostro personaggio. Volete evitare di cadere giù dai dirupi (sorpresa). Non sapete esattamente dove siano i dirupi, ma avete un "presentimento" (un modello generativo) su dove potrebbero essere. Vi muovete per minimizzare il rischio di cadere da un dirupo basandovi sul vostro presentimento. Il saggio dice che gli oggetti fisici lo fanno automaticamente, non perché stiano pensando, ma per come sono costruiti.

La distinzione tra "Mappa vs Territorio"

Questo è il punto filosofico più importante del saggio.

• Il Territorio: Il mondo reale (il vero pesce, le vere cellule, la vera fisica).
• La Mappa: Il modello matematico dello scienziato.

I critici spesso dicono: "Aspetta! Stai dicendo che il pesce ha una mappa nella sua testa. Questo è sbagliato! Il pesce è solo un pesce".

Gli autori rispondono: "No, non stiamo dicendo questo."

Sostengono che la Mappa (la nostra matematica) è solo uno strumento che usiamo per descrivere il Territorio.

• Possiamo scrivere una mappa che dice: "Il pesce si comporta come se stesse cercando di stare in acqua".
• Questo non significa che il pesce stia effettivamente pensando: "Devo restare bagnato".
• Significa solo che se descriviamo il pesce usando questa logica dell' "as if" (come se), la matematica funziona perfettamente.

Il saggio definisce questa una visione "deflazionistica". Non stiamo dando al pesce un cervello o un'anima; stiamo solo usando un astuto trucco matematico (inferenza variazionale) per descrivere il suo movimento. L' "inferenza" avviene nel nostro modello, non necessariamente nel pesce.

Gli Esempi: Come funziona nella pratica

Il saggio testa questa idea con due simulazioni al computer:

1. Morfogenesi Cellulare (Costruire un corpo):

   • Immaginate un gruppo di cellule identiche e non differenziate.
   • Gli scienziati forniscono loro un "bersaglio" (una mappa di come dovrebbero apparire testa, corpo e coda).
   • Le cellule non hanno un progetto. Inveve, usano la regola dell' "Energia Libera". Si muovono e cambiano i loro segnali chimici per corrispondere alla "sorpresa" di non trovarsi nel posto giusto.
   • Risultato: Le cellule si organizzano spontaneamente in una testa, un corpo e una coda, semplicemente cercando di minimizzare la loro "sorpresa" su dove si trovano.

2. Cellule a Scatto Periodico (Un ritmo):

   • Immaginate un anello di cellule che devono attivarsi con un ritmo specifico (come un battito cardiaco).
   • Gli scienziati impostano un "onda target" (un'onda sinusoidale).
   • Le cellule regolano il loro scatto per corrispondere a questa onda, minimizzando l'errore tra ciò che sentono e ciò che si "aspettano" di sentire.
   • Risultato: Le cellule si bloccano in un ritmo perfetto e stabile, comportandosi come se stessero prevedendo i battiti futuri.

La Conclusione: Una Mappa di Mappe

Il saggio conclude con un colpo di scena intelligente.

Se il "Territorio" è il mondo reale, e la "Mappa" è il nostro modello scientifico...

• Il Principio dell'Energia Libera è una Mappa di Mappe.

È una regola che ci dice: "Qualsiasi sistema fisico che esiste e rimane stabile deve, dal punto di vista di un osservatore, sembrare che stia cercando di minimizzare la sorpresa."

Non importa se il sistema è un sasso, una cellula o un cervello umano. Se ha un confine (una Coperta di Markov) e rimane stabile, possiamo descriverlo usando questa logica dell' "as if". Il saggio non sta sostenendo che il sasso sia cosciente; sta sostenendo che il nostro modo migliore per capire il sasso è trattarlo come se fosse un modello del proprio ambiente.

Riassunto in una frase

Questo saggio propone un quadro matematico in cui possiamo descrivere qualsiasi sistema fisico stabile (come una cellula o una macchina) come se stesse costantemente indovinando e correggendo il proprio stato per evitare la "sorpresa", non perché il sistema stia effettivamente pensando, ma perché questa descrizione "come se" è il modo più potente e accurato per gli scienziati di modellare come funziona il mondo.

Sommario tecnico

Sintesi Tecnica: Un Framework per l'Uso della Modellazione Generativa nella Meccanica Statistica Fuori Equilibrio

Definizione del Problema
Il saggio affronta la sfida di modellare matematicamente sistemi aperti e fuori equilibrio composti da oggetti accoppiati (ad esempio, particelle, cellule o popolazioni). Gli approoli tradizionali spesso si affidano alla definizione esplicita di sistemi dinamici casuali, il che può risultare intrattabile e difficile da interpretare riguardo al perché un sistema congiunto evolva in un determinato modo. Gli autori cercano un framework che offra una spiegazione parsimoniosa della dinamica di sistemi interagenti basata sulle proprietà del loro accoppiamento, senza necessariamente presupporre che gli oggetti fisici stessi eseguano una letterale inferenza. Un ostacolo filosofico e tecnico centrale affrontato è il potenziale "errore mappa-territorio" (map-territory fallacy): l'accusa che la modellazione basata sul Principio dell'Energia Libera (FEP) confonda il modello scientifico (la mappa) con il sistema fisico stesso (il territorio), reificando erroneamente i processi inferenziali come caratteristiche letterali dell'oggetto.

Metodologia
Gli autori propongono un framework fondato sul Principio dell'Energia Libera Variazionale (FEP), utilizzando modelli generativi per rappresentare le relazioni di dipendenza tra gli stati (o le traiettorie) di sistemi accoppiati. La metodologia procede attraverso i seguenti passaggi:

1. Partizione del Markov Blanket: Il sistema è partizionato in stati interni ($\mu$), stati esterni ($\eta$) e un Markov blanket ($b$) composto da stati sensoriali e attivi. Questa partizione stabilisce l'indipendenza condizionale tra gli stati interni ed esterni dato il blanket.
2. Modellazione Generativa: Una distribuzione di probabilità congiunta $p(\eta, b, \mu)$ viene definita come modello generativo. Questo modello codifica le dipendenze statistiche del sistema.
3. Inferenza Variazionale come Dinamica: Gli autori dimostrano che se un sistema possiede una densità di stato stazionario fuori equilibrio (NESS), la sua dinamica può essere espressa come un flusso di gradiente sull'energia libera variazionale ($F$).
   • Utilizzano la decomposizione delle equazioni differenziali stocastiche (SDE) in una componente solenoidale (antisimmetrica) e una componente dissipativa (semidefinita positiva).
   • Sotto l'assunto che il sistema minimizzi la sorpresa (log-probabilità negativa) in media, e che la divergenza di Kullback-Leibler tra una densità variazionale $q$ e la vera distribuzione a posteriori svanisca, si dimostra che la dinamica degli stati interni segue un flusso di gradiente su $F$.
   • Crucialmente, $F$ funge da funzione di Lyapunov per la dinamica del sistema, garantendo la stabilità e fornendo un limite superiore trattabile sulla sorpresa.
4. Distinzione dei Modelli: Il framework distingue rigorosamente tra:
   • Il Modello Generativo: Il modello scientifico costruito dall'osservatore (la "mappa").
   • La Densità Variazionale: La distribuzione di probabilità sugli stati esterni parametrizzata dagli stati interni del sistema.
   • Il Sistema Fisico: L'oggetto reale (il "territorio").

Contributi Chiave e Risultati

• Trattabilità Formale: Il saggio stabilisce che ogni volta che un sistema ammette un Markov blanket e una decomposizione della sua dinamica in flussi solenoidali e dissipativi (come in Eq. 2.1.1), il suo comportamento può essere ricondotto matematicamente alla minimizzazione dell'energia libera variazionale. Ciò permette di descrivere dinamiche di accoppiamento non lineari e complesse attraverso la matematica più trattabile dell'inferenza statistica e dei flussi di gradiente.
• Illustrazioni Empiriche (Modelli Semplificati): Gli autori presentano due simulazioni per dimostrare l'applicazione costruttiva del FEP:
  1. Morfogenesi Cellulare: Una simulazione di otto cellule indifferenziate che migrano e si differenziano per formare una morfologia target (testa, corpo, coda). Dotando le cellule di un modello generativo che predice le posizioni target e i profili di segnalazione, il sistema si auto-organizza. Gli stati attivi delle cellule (posizione e segnalazione) minimizzano l'energia libera, "inferendo" efficacemente la propria identità unica e la propria posizione all'interno dell'insieme.
  2. Cellule a Scatto Periodico: Un anello di cellule eccitabili accoppiate tramite gap junction con un modello generativo che codifica un'onda target periodica. Gli stati interni inferiscono la fase del ciclo, mentre gli stati attivi (gating dei canali ionici) minimizzano gli errori di predizione. Il sistema converge a un ciclo limite (un'orbita circolare stabile) piuttosto che a un punto fisso, dimostrando che le dinamiche FEP possono descrivere l'auto-organizzazione oscillatoria.
• Risoluzione dell'Errore Mappa-Territorio: Il saggio sostiene che il FEP non commetta l'errore mappa-territorio. L'affermazione che un sistema "esegua un'inferenza" è una descrizione "come se" fornita dal modello generativo dell'osservatore. Il sistema stesso non ha bisogno di calcolare letteralmente gradienti o eseguire aggiornamenti bayesiani; piuttosto, la sua dinamica fisica è matematicamente equivalente a tale processo. L' "inferenza" è una proprietà del modello del sistema, non necessariamente un meccanismo letterale all'interno del sistema.

Significato e Rivendicazioni
Gli autori pongono questo lavoro come un ritorno ai principi fondamentali del FEP, enfatizzandone il ruolo di framework costruttivo piuttosto che di legge empirica universale.

• Ambito Modesto: Il saggio dichiara esplicitamente che gli esempi forniti sono "esempi operativi" per un uso costruttivo del FEP, non validazioni empiriche indipendenti della sua universalità. Gli esempi sono stati progettati per possedere la necessaria decomposizione (Markov blanket, campi $Q$ e $\Gamma$ specifici) per illustrare come il formalismo funzioni quando le condizioni richieste sono soddisfatte.
• Una "Mappa di Mappe": La rivendicazione filosofica centrale è che il FEP fornisca una "mappa di quella parte del territorio che si comporta come se fosse una mappa". Esso offre un insieme di vincoli esplicativi ultimi su cosa costituisca un modello di un processo fisico. Trattando il modello generativo come uno strumento scientifico per descrivere come i sottosistemi traccino l'uno l'altro, il FEP permette la costruzione di modelli nidificati che rispettano le relazioni note senza reificare gli aspetti inferenziali del modello come caratteristiche letterali dell'oggetto fisico.
• Allineamento Filosofico: Il framework si allinea ai sentimenti di Wittgenstein e Jaynes, suggerendo che la meccanica statistica e la modellazione siano processi di dare senso a flussi sensoriali e microstati date certe restrizioni macroscopiche. Il FEP è presentato come un approccio principato per formalizzare la relazione tra un sistema fisico e i modelli utilizzati per descriverlo, chiarendo che l' "inferenza" risiede nella descrizione matematica (la mappa) utilizzata per spiegare la stabilità e l'auto-organizzazione del sistema fisico (il territorio).

In sintesi, il saggio sostiene che l'uso di modelli generativi per rappresentare le relazioni tra sottosistemi conduce a una teoria statistica in cui la dinamica dei sistemi interagenti può essere letta come inferenza variazionale. Ciò fornisce uno strumento potente e trattabile per modellare fenomeni fuori equilibrio, a condizione che si mantenga una chiara distinzione tra il modello scientifico (il modello generativo) e il sistema fisico che esso descrive.