Machine Learning the H-theorem

Il mistero della strada a senso unico

Immaginate di guardare un video di un bicchiere che si rompe sul pavimento. Sembra caotico e disordinato. Ora, immaginate di riprodurre quel video al contrario: i frammenti volano verso l'alto, si incastrano perfettamente e atterrano intatti sul tavolo. Sapete istantaneamente che la versione al contrario è falsa. Perché? Perché nel nostro universo il tempo ha una direzione. Le cose tendono a passare dall'ordine al disordine, come una stanza ordinata che diventa lentamente disordinata se la lasciate incustodita. Questo è il cuore del Secondo Principio della Termodinamica, una regola che afferma che il "disordine" (o entropia) dell'universo aumenta sempre.

Ma ecco la parte strana: se osservate le minuscole regole che governano i singoli atomi e molecole, esse non si curano del tempo. Se filmaste due palle da biliardo che si scontrano e riproducessi il video al contrario, sembrerebbe esattamente lo stesso. Le leggi della fisica sono "invarianti rispetto al tempo". Allora, come otteniamo una strada a senso unico per il tempo quando ogni singolo passaggio del processo è una strada a doppio senso? Questo enigma tormenta gli scienziati da oltre un secolo. Per risolverlo, solitamente utilizzano uno strumento matematico complesso chiamato teorema di H, che agisce come un tabellone dei punteggi che scende sempre man mano che un sistema si assesta verso l'equilibrio. Ma cosa succederebbe se non conoscessimo le regole del gioco? Cosa succederebbe se dessimo semplicemente un computer un mucchio di dati e gli chiedessimo di capire in che direzione scorre il tempo?

La missione del documento: Insegnare a un robot a percepire il tempo

In questo articolo, gli autori si sono posti l'obiettivo di vedere se un modello di apprendimento automatico potesse riscoprire questa "freccia del tempo" da solo, senza che gli venisse data la risposta. Non hanno dato al computer la formula del teorema di H o alcun libro di testo di fisica. Invece, hanno creato un mondo virtuale popolato da 1.000 dischi rigidi (come minuscole, perfette palle da biliardo) che rimbalzano in una scatola quadrata. Hanno fatto partire questi dischi da uno stato caotico e casuale in cui tutti si muovevano alla stessa velocità ma in direzioni diverse. Poi, hanno lasciato che la simulazione procedesse, registrando la posizione e la velocità di ogni singolo disco in ogni momento.

Il compito del computer era semplice ma complicato: osservare due istantanee di questo gas in movimento — una da un tempo precedente e una da un tempo successivo — e indovinare quale fosse venuta prima. L'unica regola data al computer era: "L'istantanea successiva deve ottenere un punteggio più alto di quella precedente". Per fare ciò, i ricercatori hanno costruito un tipo speciale di rete neurale (un tipo di IA) chiamata modello "DeepSets". Questa rete è progettata per essere "permutazione-invariante", un modo elegante per dire che non le importa quale particella sia quale. Se si scambiano i nomi di due particelle, la risposta del computer rimane la stessa, proprio come nella realtà la fisica non cambia se si rinomina un atomo.

Il modello è stato addestrato utilizzando una "perdita di ranking" (ranking loss), un sistema di punteggio che puniva il computer se sbagliava l'ordine. Per assicurarsi che il computer non barasse dando a ogni risposta un numero minuscolo, i ricercatori hanno costretto i punteggi a essere standardizzati all'interno di ogni gruppo di dati. Hanno addestrato il modello per 120 "epoche" (cicli attraverso i dati). All'inizio, il computer stava solo tirando a indovinare. Ma intorno alla 60ª epoca, è successo qualcosa di interessante: il computer è diventato improvvisamente molto più bravo nel suo lavoro. L'errore nel suo ranking è sceso drasticamente e ha iniziato a distinguere chiaramente tra gli stati "precedenti" e quelli "successivi".

La grande rivelazione: Ha trovato l'H-funzionale?

La parte più eccitante del documento è ciò che il computer ha effettivamente imparato. I ricercatori hanno confrontato il "punteggio" che il computer assegnava alle istantanee con l'effettivo H-funzionale, la famosa formula matematica inventata da Boltzmann nel 1872 per misurare quanto un sistema sia lontano dall'equilibrio. Hanno scoperto che il punteggio appreso dal computer corrispondeva quasi perfettamente all'H-funzionale, una volta regolato per un semplice spostamento di scala e posizione.

In altre parole, l'IA, a cui era stato solo detto "il successivo è maggiore del precedente", ha scoperto indipendentemente una funzione matematica che si comporta esattamente come il teorema di H. Ha scoperto che, mentre il gas si rilassa e le particelle distribuiscono le loro velocità in un modello fluido e prevedibile (la distribuzione di Maxwell-Boltzmann), il valore di questa funzione cambia in un modo molto specifico e monotono. Il documento mostra che la dinamica del sistema da sola è sufficiente a guidare il modello verso questa struttura.

Tuttavia, gli autori sottolineano con cautela che questo risultato deriva da una specifica simulazione di 1.000 dischi rigidi con collisioni elastiche. Non pretendono che questo dimostri l'H-teorema per ogni possibile sistema nell'universo. Suggeriscono che questo approccio funzioni bene per questa specifica configurazione, dove il modello ha imparato a tracciare il rilassamento verso l'equilibrio senza mai essergli stata mostrata la formula. Hanno anche scoperto che il parametro di "temperatura" nella loro perdita di addestramento contava molto: una temperatura più bassa (0.1) rendeva l'output del modello fluido e affidabile, mentre una temperatura più alta (1.0) lo rendeva instabile e oscillante verso la fine.

Quindi, il documento non risolve il profondo mistero filosofico del perché il tempo scorra in un solo verso, ma dimostra che una macchina, nutrita solo con dati grezzi e una semplice regola di ordinamento, può "imparare" la stessa freccia matematica del tempo che i fisici umani hanno impiegato decenni a derivare. Suggerisce che il percorso verso l'equilibrio sia così forte e strutturato che persino una rete neurale può trovarlo semplicemente osservando le particelle rimbalzare.