Chaos in reason: How chain-of-thought LLMs can look for an answer

Sintesi Tecnica: Il Caos della Ragione

Enunciato del Problema
I Large Language Models (LLM) hanno dimostrato straordinarie capacità di ragionamento, in particolare quando utilizzano il prompting Chain-of-Thought (CoT), eppure la loro dinamica interna rimane scarsamente compresa. Sebbene gli LLM siano addestrati tramite ottimizzazione statistica senza regole simboliche esplicite, essi esibiscono comportamenti emergenti che somigliano all'inferenza logica. Ciò solleva una domanda fondamentale sulla natura di questo ragionamento: è stocastico, strutturato o caotico? Gli autori postulano che gli LLM possano essere visti come sistemi dinamici non lineari ad alta dimensionalità, dove la generazione autoregressiva dei token corrisponde a una regola di evoluzione a tempo discreto. Il problema centrale affrontato è se l'evoluzione interna delle rappresentazioni degli LLM presenti autentiche firme di caos deterministico, specificamente sensibilità alle condizioni iniziali, divergenza limitata e strutture frattali, e come i componenti architettonici contribuiscano a tali dinamiche.

Metodologia
Gli autori applicano strumenti della dinamica non lineare e della teoria del caos per analizzare sia gli output testuali che le traiettorie degli stati latenti degli LLM. La metodologia integra tre approcci analitici primari:

1. Analisi delle Traiettorie: Gli autori trattano le sequenze di stati latenti e gli embedding di frasi come traiettorie in uno spazio delle fasi ad alta dimensionalità. Utilizzano molteplici metriche di distanza complementari (Coseno, Dynamic Time Warping, Fréchet Discreto, Hausdorff e Dissimilarità di Cross-Correlazione) per quantificare la divergenza tra traiettorie avviate da condizioni iniziali leggermente perturbate.
2. Diagnostica del Caos:
   • Esponenti di Lyapunov: Stimano gli esponenti massimi di Lyapunov adattando modelli di crescita esponenziale alla divergenza iniziale di traiettorie vicine prima della saturazione. Utilizzano inoltre il "tempo di prima divergenza" (il numero di token fino a cui le traiettorie selezionano token differenti) come quantità caratteristica robusta.
   • Recurrence Plots: Vengono utilizzati per visualizzare la struttura geometrica e temporale delle traiettorie, ricercando strutture di linee diagonali indicative di caos deterministico.
   • Stima della Dimensionalità: La dimensione di correlazione ($D_2$) viene calcolata utilizzando l'algoritmo di Grassberger–Procaccia per determinare se le traiettorie evolvono su varietà a bassa dimensionalità o in spazi stocastici ad alta dimensionalità.
3. Analisi del Jacobiano a Livello di Operatore: Per collegare le osservazioni macroscopiche ai meccanismi microscopici, gli autori eseguono un'analisi esatta del Jacobiano di singoli sottoblocchi Transformer (auto-attenzione, reti feed-forward, normalizzazione e connessioni residue). Calcolano le norme spettrali e i fattori di espansione isotropa per identificare quali componenti amplificano le perturbazioni ("stretching" - stiramento) e quali le sopprimono ("folding" - ripiegamento).

Gli esperimenti sono stati condotti principalmente sul modello DeepSeek-R1-Distill-Qwen-1.5B, con replicazione sul modello Phi-4-mini-instruct. Le perturbazioni sono state applicate nello spazio degli embedding per garantire una magnitudo controllata.

Contributi Chiave e Risultati

• Evidenza di Firme Caotiche: Lo studio dimostra che gli LLM esibiscono firme caratteristiche del caos. Le traiettorie che partono da condizioni iniziali infinitesimalmente vicine mostrano una forte sensibilità, caratterizzata da un periodo iniziale di somiglianza latente seguito da una divergenza intermittente e a scatti, una volta che una perturbazione attraversa la soglia di campionamento del token. Questo comportamento è coerente attraverso diverse metriche di distanza e spazi di rappresentazione (stati latenti vs. embedding di frasi).
• Decomposizione Meccanicistica del Caos: L'analisi esatta del Jacobiano rivela i ruoli architettonici specifici nel guidare il caos:
  • Stretching (Stiramento): I blocchi di auto-attenzione e feed-forward (MLP) possiedono norme spettrali superiori a 1, espandendo attivamente le perturbazioni. Il meccanismo di auto-attenzione, in particolare, introduce un forte accoppiamento non lineare che propaga le perturbazioni attraverso la sequenza.
  • Folding (Ripiegamento): Gli strati di normalizzazione agiscono come proiezioni ortogonali scalate che annullano la componente radiale (la più espansiva) delle perturbazioni, contrastando l'espansione.
  • Propagazione: Le connessioni residue preservano le componenti di perturbazione sopravvissute, permettendo loro di persistere e crescere attraverso i livelli nonostante l'effetto di limitazione della normalizzazione.
• Dinamiche per Livello (Layer-wise): L'analisi rivela una transizione nel comportamento dinamico attraverso la profondità della rete. Gli strati iniziali si comportano in modo simile a embedding casuali ad alta dimensionalità con dinamiche stocastiche non correlate. Al contrario, gli strati più profondi organizzano le traiettorie su varietà strutturate a bassa dimensionalità. I recurrence plots mostrano che le caratteristiche caotiche (linee diagonali frammentate) diventano più pronunciate negli strati profondi, e le stime della dimensione di correlazione indicano uno spostamento verso strutture deterministiche a bassa dimensionalità.
• Ruolo della Finestra di Attenzione: La dipendenza della divergenza dalla dimensione della finestra di attenzione conferma che l'auto-attenzione è il vettore della crescita della perturbazione caotica. È stato osservato un comportamento non monotono in cui dimensioni intermedie della finestra potevano stabilizzare le dinamiche sopprimendo gli effetti della perturbazione, mentre finestre ampie permettevano una divergenza ritardata ma costante.
• Struttura Frattale: L'analisi della dimensionalità rivela che, sebbene lo spazio degli stati latenti ambiente sia ad alta dimensionalità ($D=1536$), la dimensione effettiva delle traiettorie negli strati finali è di ordini di grandezza inferiore, suggerendo un'evoluzione su una varietà di tipo frattale.

Significatività e Rivendicazioni
Il documento sostiene di fornire un quadro rigoroso per interpretare il comportamento degli LLM attraverso la lente della dinamica non lineare, andando oltre le puramente descrizioni statistiche. Gli autori argomentano che la coesistenza di una generazione limitata e della sensibilità alle condizioni iniziali è una caratteristica definente dei modelli, posizionandoli operativamente vicino al "bordo del caos". Questo regime è suggerito per massimizzare la propagazione dell'informazione e l'espressività computazionale senza sacrificare la stabilità globale.

Lo studio colma il divario tra le diagnostiche macroscopiche a livello di traiettoria e le spiegazioni meccanicistiche microscopiche, mostrando che l'accoppiamento non lineare indotto dall'auto-attenzione è centrale nel guidare il comportamento caotico. Gli autori notano con modestia che le loro scoperte si basano su modelli specifici e che le tecniche classiche di analisi del caos richiedono adattamenti per contesti ad alta dimensionalità, discreti e parzialmente stocastici. Evidenziano che metriche come gli esponenti di Lyapunov e le dimensioni frattali dovrebbero essere viste come strumenti diagnostici comparativi piuttosto che come invarianti precise in questo contesto. In definitiva, il lavoro suggerisce che gli strumenti della teoria dei sistemi complessi offrono una via promettente per comprendere le dinamiche interne, la robustezza e le capacità di ragionamento emergente dei grandi modelli linguistici.