Riepilogo Tecnico: Oltre il Linguaggio: Sottospazi di Ragionamento Agnostici al Formato nei Modelli Linguistici di Grande Dimensione

Enunciato del Problema

I Modelli Linguistici di Grande Dimensione (LLM) elaborano inferenze logiche identiche espresse in forme superficiali estremamente diverse, che vanno dalla prosa inglese e dal testo cinese al codice Python e alla notazione matematica. Sebbene ricerche precedenti abbiano stabilito che gli LLM multilingue sviluppano rappresentazioni interne condivise tra le lingue naturali, rimane ignoto se questa invarianza si estenda a sistemi simbolici genuinamente diversi. La domanda centrale è se gli LLM possiedano un substrato interno comune per il ragionamento che trascenda codifiche simboliche specifiche (linguistiche, formali e strutturali) e, in tal caso, se questa struttura sia causalmente coinvolta nel calcolo e universale tra le architetture.

Metodologia

Gli autori introducono il Benchmark TriForm, un dataset controllato composto da 324 stimoli derivati da 18 concetti di ragionamento (che coprono domini aritmetici, logici, relazionali, causali e spaziali). Ogni concetto è espresso in sei forme superficiali organizzate lungo tre dimensioni:

1. Linguistica: Prosa in inglese, cinese e francese.
2. Simbolica: Codice Python e notazione matematica.
3. Strutturale: Dati strutturati passo dopo passo.

Lo studio valuta cinque LLM decoder-only (da 1,6 a 8 miliardi di parametri) appartenenti a tre famiglie di architetture (GPT, Qwen, Llama/Mistral) utilizzando il seguente quadro analitico:

• RSA Corretta per Permutazione: Per identificare la struttura a livello di concetto, gli autori impiegano l'Analisi di Similarità Rappresentazionale (RSA) con test di permutazione per correggere la non indipendenza delle distanze pairwise, distinguendo i segnali concettuali dai segnali della forma superficiale.
• Probing Cross-Form: Classificatori regolarizzati con Ridge vengono addestrati sulle attivazioni di una forma superficiale per prevedere l'identità del concetto in un'altra, testando la decodificabilità lineare tra i formati.
• Entropia dei Neuroni Agnostici al Formato: Ispirati da LAPE, gli autori quantificano la specificità dei neuroni misurando l'entropia delle distribuzioni di attivazione tra le forme, identificando i neuroni che si attivano in modo uniforme (agnostici al formato) rispetto a quelli specifici di certe forme.
• Estrazione del Sottospazio (FARS): Un Sottospazio di Ragionamento Agnostico al Formato viene estratto utilizzando l'Analisi delle Componenti Principali (PCA) basata sul centroide dei concetti. Mediante la media delle attivazioni su tutte le forme e istanze per ogni concetto, gli autori isolano le prime $k$ componenti principali che catturano la varianza del concetto sopprimendo la varianza della forma.
• Intervento Causale: Lo studio utilizza il patching delle attivazioni e l'ablazione del sottospazio.
  • Patching cross-form: Sostituzione degli stati nascosti da una forma sorgente (es. inglese) in una forma target (es. matematica) per misurare la preservazione dell'output.
  • Patching del sottospazio: Sostituzione solo delle componenti FARS proiettate (10 dimensioni) durante il trasferimento cross-form.
  • Ablazione del sottospazio: Rimozione delle direzioni FARS per misurare l'interruzione dell'output del modello.

Risultati Chiave

1. Esistenza di un Sottospazio di Ragionamento Agnostico al Formato (FARS)

• Evidenza Correlazionale: La RSA rivela che i segnali a livello di concetto raggiungono il picco negli strati intermedi di tutti i modelli, rafforzandosi con la scala. Sebbene la forma superficiale rimanga il principio organizzativo dominante (Form RSA $\rho \approx 0,43\text{--}0,53$), i segnali concettuali sono significativi ($\rho \approx 0,10\text{--}0,20$) e crescono più rapidamente con la dimensione del modello.
• Decodificabilità: L'accuratezza del probing cross-form supera significativamente il caso (5,6%), raggiungendo fino al 60,3% (Mistral-7B).
• Localizzazione dei Neuroni: I neuroni agnostici al formato si concentrano negli strati intermedi (20–23% dei neuroni), rispecchiando la distribuzione dei neuroni agnostici alla lingua trovata in precedenti studi cross-linguistici.

2. Rilevanza Causale ed Efficienza del Sottospazio

• Trasferimento ad Alta Fedeltà: Sostituendo solo le prime 10 dimensioni del sottospazio FARS durante il patching cross-form, si preserva il 90–96% dell'output dei primi 10 token del modello.
• Confronto con i Controlli: Questa prestazione supera di gran lunga la sostituzione completa delle attivazioni (44–56%) e la sostituzione PCA che massimizza la varianza (60–74%).
• Ablazione: La rimozione del sottospazio FARS causa un'interruzione mirata (bassa divergenza KL per FARS rispetto ad alta per le direzioni specifiche della forma), confermando che queste dimensioni specifiche sono causalmente sufficienti per il ragionamento cross-form.
• Dimensionalità: La struttura rilevante per il ragionamento è genuinamente a bassa dimensionalità, raggiungendo un plateau a $k=8\text{--}10$ componenti all'interno di uno spazio di 1600–4096 dimensioni.

3. L'Asimmetria Dichiarativo-Procedurale

Una scoperta critica è la divergenza nella compatibilità basata sulla natura del sistema simbolico piuttosto che solo sulla lingua:

• Compatibilità Dichiarativa: Il patching tra prosa inglese e notazione matematica preserva il 65–73% dell'output.
• Divergenza Procedurale: Il patching tra prosa inglese e codice Python preserva solo il 16–22% dell'output.
• Conclusione: L'asse critico di divergenza non è "linguistico vs formale" ma dichiarativo vs procedurale. Le rappresentazioni sono altamente compatibili tra formati dichiarativi (prosa, matematica, dati strutturati) ma significativamente meno quando si crea un ponte verso codifiche procedurali (codice).

4. Universalità e Convergenza

• Generalizzazione: Il FARS estratto da un sottoinsieme di concetti si generalizza ai concetti tenuti da parte con un degrado graduale.
• Convergenza Cross-Architettura: Diverse famiglie di modelli convergono sulla stessa geometria del sottospazio. L'Analisi di Correlazione Canonica (CCA) cross-modello supera 0,79 per tutte le coppie, e la RSA del centroide supera 0,77, fornendo prove intra-modali per l'Ipotesi della Rappresentazione Platonica.

Significato e Affermazioni

Il documento afferma di fornire la prima evidenza sistematica che gli LLM sviluppano un sottospazio concreto, a bassa dimensionalità e agnostico al formato per il ragionamento, che è causalmente sufficiente per il trasferimento cross-simbolico.

• Contributo Teorico: I risultati supportano l'Ipotesi della Rappresentazione Platonica all'interno di una singola modalità, suggerendo che le rappresentazioni del ragionamento astratto convergono attraverso diverse codifiche simboliche.
• Insight Meccanicistico: La scoperta dell'asimmetria dichiarativo-procedurale affina la comprensione dell'invarianza del formato, identificando un confine fondamentale tra il ragionamento dichiarativo (prosa, matematica) e l'esecuzione procedurale (codice) che era precedentemente non caratterizzato.
• Utilità Pratica: Il FARS offre uno strumento concreto ed estraibile (una base a 10 dimensioni) per l'ingegneria delle rappresentazioni. Suggerisce che interventi di sicurezza o vettori di guida scoperti in un formato dichiarativo (es. inglese) possono trasferirsi ad altri (es. matematica) tramite questo sottospazio, ma potrebbero fallire quando si crea un ponte verso formati procedurali (codice), evidenziando un potenziale divario di sicurezza in cui ragionamenti dannosi nel codice potrebbero aggirare i filtri addestrati sulla prosa.

Gli autori notano le limitazioni, inclusa la valutazione di soli modelli base, la natura supervisionata dell'estrazione del FARS e l'uso di stimoli generati programmaticamente, riconoscendo che la dimensionalità e la geometria del FARS in modelli più grandi o addestrati su istruzioni rimangono domande aperte.