Test, then Route: How Language Models Execute In-Context Conditional Rules Across Models and Languages

Sintesi Tecnica: Test, poi Instradamento: Come i Modelli Linguistici Eseguono Regole Condizionali In-Context

Definizione del Problema
I Large Language Models (LLM) eseguono frequentemente regole condizionali in-context della forma "se $P(x)$ allora $A$ altrimenti $B$". Una domanda fondamentale nella interpretabilità meccanicistica è se il modello assembli un circuito di runtime composto da moduli separabili per il test del predicato $P(x)$ e l'instradamento (routing) della risposta appropriata ($A$ o $B$), o se questi processi siano intrecciati in un singolo meccanismo indivisibile. Mentre le valutazioni comportamentali possono confermare che un modello segua una regola, non possono distinguere tra queste strutture organizzative interne. A differenza dei circuiti memorizzati nei pesi (es. l'identificazione dell'oggetto indiretto) che sono pre-addestrati e riutilizzabili, i condizionali in-context richiedono che il circuito venga assemblato al momento dell'inferenza sulla base del contenuto dinamico del prompt.

Metodologia
Gli autori propongono un nuovo design sperimentale utilizzando il patching delle attivazioni per disgiungere il "test" (valutazione del predicato) dall' "instradamento" (selezione della risposta).

1. Design a Quattro Donatori: L'innovazione principale è un set di quattro prompt donatori che creano un "disaccordo" tra il valore di verità del predicato e la parola risposta.

   • BASE: Regola standard, predicato TRUE $\rightarrow$ Risposta $A$.
   • O-DONOR: Regola standard, predicato FALSE $\rightarrow$ Risposta $B$ (inverte l'esito).
   • MAP-DONOR: Regola scambiata ("se $P(x)$ allora $B$ altrimenti $A$"), predicato TRUE $\rightarrow$ Risposta $B$ (inverte la mappatura, mantiene il predicato TRUE).
   • MAP-NULL: Regola scambiata, predicato FALSE $\rightarrow$ Risposta $A$ (inverte la mappatura, mantiene il predicato FALSE).
   • Logica: In MAP-DONOR e MAP-NULL, il valore di verità e la parola risposta puntano a etichette opposte. Patchando lo stream residuo di uno strato da un donatore a una corsa base, i ricercatori possono determinare se quello strato trasporta la condizione (segue il valore di verità) o la risposta (segue la parola).

2. Metriche:

   • Flip Probability (Probabilità di Inversione): Misura se il patching causa l'output della risposta del donatore, filtrato da una soglia di massa del label ($\ge 0.30$) per evitare artefatti da collasso della distribuzione.
   • Fraction-of-Swing Recovery ($R$): Una metrica graduata che misura quanto un patch sposti la differenza di logit della base verso quella del donatore.
   • Controllo di Trasferimento: Per distinguere un vero modulo di routing da un readout specifico per il token, gli autori addestrano un sottospazio a basso rango (DAS-lite) su una coppia di etichette (es. dog/cat) e testano la sua capacità di invertire una coppia tenuta fuori (es. fox/owl). Testano anche il trasferimento cross-lingua.

3. Ambito Sperimentale:

   • Modelli: Tre modelli open-weight di due famiglie: Gemma-3-4B, Gemma-3-12B e Qwen3-8B.
   • Lingue: Sei lingue (Inglese, Cinese, Hindi, Indonesiano, Tamil, Sinhala) che coprono quattro sistemi di scrittura.
   • Controlli: Un bank di item fisso di 250 elementi condiviso tra tutte le celle; le etichette di risposta ($dog/cat$) sono mantenute in alfabeto latino per isolare la comprensione della regola dagli effetti di traduzione.

Risultati Chiave

1. Modulo di Predicato-TEST Modulare:

   • In tutte le 18 celle sperimentali (3 modelli $\times$ 6 lingue), una distinta banda residua a metà stack (es. strati 21–22 in Gemma-3-4B) trasporta il valore di verità del predicato.
   • Il patching di questa banda con l'O-DONOR (che inverte il valore di verità) reindirizza la risposta con probabilità $\approx 1.0$.
   • Il patching della stessa banda con il MAP-DONOR (che inverte la mappatura ma mantiene il valore di verità) lascia la risposta invariata ($\approx 0.0$).
   • Questa isolazione regge attraverso cinque diverse famiglie di predicati (soglie numeriche, appartenenza a insiemi, inizio con vocale) e una variante a tre output, confermando che il modulo calcola un valore di verità astratto, non una regola specifica.

2. ROUTE Non Separabile:

   • La fase di ROUTE (dove il valore di verità viene mappato sulla parola risposta) non mostra un sottospazio separabile e trasferibile.
   • Sebbene un sottospazio appreso possa invertire perfettamente una coppia di etichette addestrata (Interchange Accuracy $\approx 1.00$), fallisce nel trasferirsi a una nuova coppia di etichette (Accuracy $\approx 0$) in tutti i modelli.
   • Trasferimento Cross-Lingua: In Gemma-3-4B, la direzione appresa per una coppia fissa (dog/cat) si trasferisce quasi perfettamente ($\approx 0.98$) alla stessa coppia in altre lingue (Tamil, Cinese). Ciò indica che la direzione è legata al token (specifica per i token di risposta) piuttosto che un meccanismo di routing astratto.
   • In Qwen3-8B, la direzione è specifica per la coppia ed ortogonale al readout, ma comunque non trasferibile ad altre coppie.

3. Confine di Fase (Stage Boundary):

   • Gli esperimenti rivelano un netto confine di fase (es. $L_{22} \to L_{23}$ in Gemma-3-4B). Al di sotto di questo confine, i patch seguono la condizione; al di sopra, i patch seguono la parola risposta.
   • L'ancora di TEST è invariante rispetto alla lingua e situata a una profondità relativa costante. L'inizio di ROUTE varia per modello e lingua, suggerendo che il readout si cristallizzi più tardi nello stack.

Significatività e Rivendicazioni
Il paper sostiene l'esistenza di una asimmetria fondamentale in come gli LLM eseguono i condizionali in-context:

• Il Test è Modulare: La valutazione del predicato è un modulo causale, localizzabile e portabile che trasporta un valore di verità astratto che può essere sovrascritto per guidare la decisione del modello.
• L'Instradamento è Intrecciato: Il meccanismo di routing non è un modulo astratto e riutilizzabile. Inveve, appare come una direzione di readout legata ai token (o una direzione specifica per la coppia) che è intrecciata con il vocabolario specifico della risposta. Non generalizza attraverso diverse coppie di etichette.

Implicazioni:

• Guida (Steering): Lo steering a livello di predicato (modificare il valore di verità) dovrebbe essere più portabile tra diversi prompt e set di vocabolario rispetto allo steering a livello di risposta.
• Auditing: La banda di TEST separabile offre un "gancio di monitoraggio" per rilevare discrepanze tra giudizio e azione prima che l'output finale venga emesso.
• Comprensione Meccanicistica: I risultati sfidano l'assunto che tutti i comportamenti in-context si basino su circuiti riutilizzabili memorizzati nei pesi; invece, l'assemblaggio runtime comporta fasi distinte in cui solo la fase di "test" è modulare.

Limitazioni
Gli autori notano che i loro risultati sono specifici per modelli open-weight e compiti sintetici controllati con etichette latine a singolo token. Non pretendono che queste scoperte si estendano a modelli proprietari di frontiera, condizionali in script nativi o completamenti a testo libero. La natura "intrecciata" del router è precisa per le impostazioni testate, ma potrebbe non generalizzare a tutti i compiti di routing.