Riepilogo Tecnico: Conettori per la Guida Semantica

Enunciato del Problema

I metodi di guida basati sull'attivazione mirano a controllare il comportamento dei Modelli Linguistici di Grandi Dimensioni (LLM) al momento dell'inferenza senza riaddestramento. Il paradigma dominante rappresenta i concetti semantici come singoli vettori (ad esempio, tramite Addizione di Attivazione o Addizione di Attivazione Contrastiva), iniettando una direzione di differenza media negli stati nascosti. Questo approccio soffre di due limitazioni fondamentali:

1. Riduzionismo Geometrico: I concetti semantici (ad esempio, sentiment, orientamento politico) occupano spesso sottospazi multidimensionali all'interno dello spazio di attivazione del modello. Ridurli a un singolo vettore scarta la struttura residua e il contesto, portando potenzialmente alla perdita di fluidità o a output degeneri.
2. Sovraccarico di Supervisione: La selezione del livello ottimale per l'intervento richiede tipicamente l'addestramento di classificatori di sondaggio (probing classifiers) a ogni livello, un processo supervisionato costoso che scala con la profondità del modello e il numero di concetti.

Metodologia

Gli autori propongono l'uso dei Conettori, matrici di proiezione morbida originariamente sviluppate per le reti neurali ricorrenti (Jaeger, 2024), adattate qui per LLM basati su transformer.

Meccanismo Principale

Dato un insieme di vettori di attivazione $\{x_1, \dots, x_N\}$ associati a un concetto, una matrice conettore $C$ è definita come la soluzione a un problema di ricostruzione regolarizzato:
$$C = R(R + \alpha^{-2}I)^{-1}$$
dove $R$ è la matrice di correlazione campionaria delle attivazioni e $\alpha$ è un parametro di apertura. Nella base degli autovettori di $R$, $C$ agisce come un meccanismo di gating morbido, attenuando le direzioni in base alla loro energia del segnale. Le direzioni ad alta energia sono preservate, mentre il rumore a bassa energia è soppresso.

Scelte Chiave di Progettazione

• Addestramento Bipolare: A differenza dei metodi unipolari precedenti che guidano verso un singolo polo (ad esempio, sentiment "positivo"), questo approccio raggruppa le attivazioni da entrambi i poli di un concetto bipolare (ad esempio, sentiment positivo e negativo) in un'unica matrice di correlazione. Ciò cattura l'intero sottospazio tra i poli invece del semplice vettore di differenza.
• Selezione del Livello tramite Quota del Conettore: Per evitare il sondaggio supervisionato, gli autori utilizzano la quota del conettore $q(C) = \frac{1}{d}\text{tr}(C)$, una metrica priva di parametri che rappresenta la dimensionalità effettiva morbida del sottospazio del concetto. Valori elevati di quota correlano con i livelli in cui il concetto è ben separato.
• Componibilità Booleana: I connettori supportano l'algebra booleana in forma chiusa (AND, OR, NOT) direttamente sulle matrici, consentendo la composizione della guida senza accesso ai dati di attivazione originali.
  • NOT: $\neg C = I - C$ (sopprime un concetto).
  • AND: $C_A \land C_B = (C_A^{-1} + C_B^{-1} - I)^{-1}$ (mantiene solo le direzioni condivise del sottospazio).

Contributi Chiave

1. Caratterizzazione Geometrica: Gli autori dimostrano che i sottospazi bipolari includono rigorosamente le linee di base a singolo vettore, catturando $\ge 95\%$ della direzione di differenza media utilizzata dai metodi precedenti, pur mantenendo una struttura multidimensionale aggiuntiva.
2. Diagnostica Senza Parametri: La quota del conettore si dimostra in grado di prevedere la separabilità del concetto (misurata tramite AUC del sondaggio) con correlazioni di Pearson fino a $r=0.96$ su tre modelli istruiti (Gemma-2-2B-IT, Gemma-2-9B-IT, Qwen-2.5-3B-Instruct) e tre dimensioni semantiche, superando le metriche tradizionali basate sulla varianza.
3. Analisi della Componibilità: Il documento stabilisce che la composizione booleana è governata dalla sovrapposizione dei sottospazi.
   • NOT è efficace anche con bassa sovrapposizione (ad esempio, separando l'orientamento politico dal sentiment).
   • AND richiede pertinenza tematica e significativa sovrapposizione dei sottospazi (ad esempio, posizione sull'aborto e diritti LGBTQ) per produrre una guida congiunta significativa.
4. Robustezza e Sicurezza: Una valutazione sistematica dello spazio di progettazione su cinque assi (posizione, ambito del token, regola di combinazione, fonte di addestramento, modalità autoregressiva) rivela che la guida tramite connettori produce sostanzialmente meno output degeneri (13% contro il 58% delle linee di base additive), pur eguagliando o superando i metodi additivi nei tassi di vittoria.

Risultati Sperimentali

La valutazione copre tre modelli e tre concetti (sentiment, orientamento politico, depressione).

• Prestazioni: I connettori raggiungono tassi di vittoria di 0,70–0,82 nelle attività di sentiment, superando significativamente le linee di base additive (0,50–0,62). Il vantaggio è più pronunciato nei livelli in cui i sottospazi dei concetti sono multidimensionali.
• Degenerazione: I metodi additivi producono frequentemente testo ripetitivo o incoerente (output degeneri). L'interpolazione con i connettori riduce questo tasso al 13%, suggerendo che i connettori guidano all'interno della varietà di attivazione naturale del modello invece di spingere gli stati fuori distribuzione.
• Componibilità:
  • In scenari a bassa sovrapposizione (Politica $\times$ Sentiment, sovrapposizione $\approx 0,19$), l'operazione AND-NOT isola con successo un concetto (ad esempio, il sentiment) sopprimendo l'altro, affinando la selettività.
  • In scenari ad alta sovrapposizione (Aborto $\times$ LGBTQ, sovrapposizione $\approx 0,50$), l'operazione AND attiva con successo entrambi i concetti simultaneamente, una capacità non raggiungibile con i metodi a singolo vettore.
• Generalizzazione: Il metodo si generalizza a set di test più ampi non visti (500 prompt) e mantiene la robustezza contro prompt avversari (ad esempio, istruzioni di sistema esplicitamente orientate a destra).

Significato e Affermazioni

Il documento afferma che la guida tramite connettori offre un'alternativa geometricamente fondata, componibile e praticamente più sicura alla guida a singola direzione. Preservando l'intero sottospazio multidimensionale di un concetto, i connettori evitano la perdita di informazioni intrinseca nella sottrazione vettoriale. La capacità di eseguire operazioni booleane senza riaddestramento o accesso ai dati originali abilita un controllo complesso e multi-concetto (ad esempio, "sii politico ma non partigiano") che era precedentemente difficile da realizzare.

Gli autori collocano questo lavoro come un passo verso l'allineamento al momento dell'inferenza, dove i concetti dannosi possono essere soppressi (tramite NOT) preservando le capacità target, spostando la sicurezza componibile dall'ingegneria dei prompt alle operazioni algebriche di routine. Notano esplicitamente che il metodo è valutato su modelli più piccoli (fino a 9 miliardi di parametri) e che il passaggio a modelli di dimensioni di deployment rimane una direzione futura, sebbene la geometria sottostante sia affermata come indipendente dall'architettura.

Limitazioni Riconosciute:

• La valutazione è limitata a tre modelli e tre concetti semantici.
• Alte intensità di guida possono ancora portare a incoerenze residue.
• Gli esperimenti di componibilità sono attualmente limitati a due coppie di concetti.
• Il metodo si basa su classificatori automatizzati per la valutazione, che potrebbero introdurre bias.
• Le considerazioni etiche riguardanti il potenziale di amplificare i bias o manipolare l'inquadratura sono esplicitamente sollevate, inquadrando il lavoro come un'analisi di controllabilità piuttosto che uno strumento di persuasione.