Mirror Horizon: Viable Path Entropy as a Measure of Bounded Reflection

Sintesi Tecnica: Orizzonte Specchio e Entropia del Percorso Vitale

Enunciato del Problema
Le attuali metriche di valutazione per i grandi modelli linguistici (LLM) — come loss, accuratezza, pass@k e punteggi di benchmark — collassano la capacità interna di un sistema in singole statistiche di esito. Queste metriche non riescono a distinguere tra un modello che risolve un problema una volta e fallisce ripetutamente, un modello che risolve meno problemi ma rivela strategie di soluzione diverse, e un modello con un'alta entropia di output grezzo ma poca struttura verificata. Il documento sostiene che la capacità non debba essere definita meramente dal successo in un unico tentativo (one-shot) o dal numero di parametri, ma dalla struttura delle continuazioni vitali che un sistema può sostenere sotto ripetuta riflessione.

Metodologia
Il documento operazionalizza la "Teoria dello Specchio" attraverso una nuova misura chiamata Entropia del Percorso Vitale (VPE - Viable Path Entropy), definita come una misura a budget finito della capacità di continuazione verificata.

1. Scaffolding Teorico:

   • Lo Specchio come Legge di Continuazione: Uno specchio è definito non come una rappresentazione statica (ad esempio, un vettore nascosto), ma come la struttura interna che induce una legge di continuazioni vitali.
   • Componenti: La teoria integra l'intuizione (vincoli locali derivanti dall'evidenza), il gusto (pressione di selezione che preserva gli invarianti valorizzati) e la geometria (struttura appresa che garantisce una selezione stabile).
   • Compatibilità Costruttiva: Una possibilità è "costruttivamente compatibile" se aumenta la capacità di continuazione vitale a budget finito senza rompere gli invarianti.

2. La Misura (VPE):

   • Dato un budget $B$ (rollout), un orizzonte $T$ (token), un verificatore $V$ e una mappa di modalità $\psi$, la VPE è definita come:
     $$H_{B,T}(M) = \log \Pr[V=1] + H(\psi \mid V=1)$$
   • Termine 1 (Raggiungibilità Verificata): La probabilità di raggiungere una continuazione vitale ($\Pr[V=1]$).
   • Termine 2 (Diversità delle Modalità Verificate): L'entropia delle modalità semantiche raggiunte tra i rollout riusciti.
   • Questa decomposizione separa la ampiezza (il modello può risolvere il problema?) dalla profondità/diversità (in quanti modi distinti e verificati può risolverlo?).

3. Istanziazione Sperimentale:

   • Task: Problemi di ragionamento matematico GSM8K.
   • Modelli: Famiglia Qwen2.5-Instruct (0.5B, 1.5B e 3B parametri).
   • Protocollo: 30 problemi, 32 rollout campionati per problema, temperatura 0.8, top-p 0.95.
   • Variabili: Sono stati testati due orizzonti di riflessione: 96 token e 160 token.
   • Verificatore: Un estrattore basato su regex rigoroso che controlla la correttezza numerica rispetto alle risposte d'oro (gold answers).
   • Mappa di Modalità: Una funzione euristica che raggruppa le soluzioni verificate per bin di lunghezza, firma dell'operatore, conteggio delle equazioni e stile di ragionamento.

Contributi Chiave

1. Teoria dello Spazio dei Percorsi Formalizzata: Una versione della Teoria dello Specchio in cui gli specchi sono definiti come leggi di continuazione piuttosto che stati statici.
2. Entropia del Percorso Vitale (VPE): Una definizione di orizzonte specchio che decompone la capacità limitata in raggiungibilità verificata e diversità delle modalità verificate.
3. Connessione Teorica: Collegare concetti astratti (intuizione, gusto, geometria, compatibilità costruttiva) all'oggetto misurabile VPE.
4. Validazione Empirica: Esperimenti che dimostrano come il budget di riflessione espanda la capacità di continuazione verificata e come l'orizzonte specchio sia distinto dal numero di parametri.

Risultati

• Espansione del Budget: Aumentare l'orizzonte dei token da 96 a 160 ha migliorato sostanzialmente tutte le metriche per i modelli 0.5B e 1.5B. La probabilità verificata è aumentata, le frazioni con zero verifiche sono diminuite e l'entropia delle modalità verificate è aumentata.
• Performance del Modello a 160 Token:
  • Qwen2.5-1.5B ha ottenuto l'orizzonte specchio più forte tra tutti i modelli testati, dominando in probabilità verificata, pass@32, frazione zero-verificata ed entropia delle modalità verificate.
  • Qwen2.5-3B non ha superato il modello 1.5B. Sebbene avesse una probabilità media verificata superiore al modello 0.5B, ha mostrato una minore ampiezza (minore pass@32) e un'entropia delle modalità verificate significativamente inferiore rispetto al modello 1.5B.
• Curve di Copertura: Le curve di copertura empirica hanno mostrato che il modello 1.5B ha raggiunto un numero atteso più elevato di modalità verificate distinte attraverso tutti i budget di rollout ($b \in \{1, \dots, 32\}$), confermando che il suo "orizzonte specchio" si dispiega più efficacemente con l'aumento del budget.

Significato e Rivendicazioni
Il documento sostiene di fornire un account a livello di misura della capacità, argomentando che la forza di un sistema risiede nella struttura delle continuazioni vitali che può rendere raggiungibili sotto un protocollo di riflessione limitato, piuttosto che nel numero grezzo di parametri o nell'accuratezza di una singola risposta.

• Orizzonte Condizionato dal Protocollo: I risultati dimostrano che l'orizzonte specchio non è un valore scalare intrinseco di un modello, ma dipende dal protocollo (budget, verificatore, mappa di modalità). Un modello più grande (3B) può avere un orizzonte specchio accessibile minore rispetto a un modello più piccolo (1.5B) sotto vincoli specifici.
• Oltre il Pass@k: La VPE rivela distinzioni nascoste dal pass@k. Un modello potrebbe avere un alto pass@k ma una bassa diversità di modalità (risolvendo i problemi in un unico modo fragile), mentre la VPE cattura la robustezza di avere molteplici modalità di soluzione verificate.
• Operazionalizzazione della Riflessione: L'esperimento valida la rivendicazione teorica secondo cui l'aumento dell'orizzonte di riflessione (budget di token) permette alla struttura interna dello specchio di dispiegarsi, rivelando più continuazioni vitali.

Il documento rimane modesto, riconoscendo che l'attuale mappa di modalità è grossolana e che gli esperimenti sono un pilota. Non pretende di stabilire una legge di scala universale, ma stabilisce che la legge di continuazione verificata è un oggetto utile e misurabile per studiare la riflessione limitata nei sistemi intelligenti.