Sintesi Tecnica: Rilevamento e Controllo della Sicofantia tramite Caratteristiche Lineari a Cascata

Definizione del Problema

L'interpretazione e la guida delle rappresentazioni interne dei grandi modelli linguistici (LLM) si basano tipicamente sull'identificazione di direzioni nello spazio delle attivazioni che corrispondono a concetti appresi. I metodi esistenti, come l'Activation Addition e la Contrastive Activation Addition (CAA), operano costruendo coppie contrastive binarie (una che esibisce un comportamento, l'altra neutra) per calcolare vettori di guida densi. Sebbene efficaci per cambiamenti comportamentali ampi, questi approoli soffrono di tre criticità fondamentali:

1. Quantificazione: I vettori densi faticano a fornire un punteggio preciso e scomponibile di "quanto" un comportamento sia presente, affidandosi a singole proiezioni scalari che mancano di granularità.
2. Interpretabilità: I vettori di guida globali sono semanticamente opachi, offrendo scarsi approfondimenti sui meccanismi cognitivi specifici (ad esempio, distinguere tra "paura del conflitto" e "iper-validazione").
3. Entanglement e Stabilità: La guida tramite vettori globali manipola l'intero stream residuo, causando spesso l'entanglement con capacità non correlate, degradazione fuori dal manifold e riduzione delle capacità generali.

Il paper si concentra sulla sicofantia — la tendenza degli LLM a dare priorità alla validazione dell'utente rispetto all'accuratezza fattuale — come una specifica patologia comportamentale derivante dall'addestramento all'allineamento. Gli attuali metodi di rilevamento spesso si affidano a pipeline "LLM-as-a-judge", che soffrono di varianza non deterministica e alti costi computazionali, o a benchmark statici che non riescono a sondare gli stati interni.

Metodologia: Cascading Linear Features (CLiF)

Gli autori propongono le Cascading Linear Features (CLiF), un framework che isola caratteristiche interpretabili che scalano linearmente con l'intensità del comportamento. Il metodo si compone di quattro fasi:

1. Generazione di Dati a Cascata

Invece di coppie binarie, gli autori generano uno spettro graduato di campioni comportamentali.

• Processo: Partendo da un baseline neutro (Livello 0), il modello viene iterativamente istruito per riscrivere la propria risposta in modo da esibire più del comportamento target (Livelli da +1 a +3) o meno (Livelli da -1 a -3).
• Risultato: Uno spettro a sette punti ($\ell \in \{-3, \dots, +3\}$) per ogni prompt.
• Validazione: Un LLM-as-a-judge conferma una forte relazione monotona tra il livello di steering e il punteggio del giudice ($\rho = 0.887$), garantendo che la procedura sposti il contenuto comportamentale piuttosto che solo lo stile superficiale.

2. Selezione delle Caratteristiche tramite Sparse Autoencoders (SAE)

Le attivazioni dello stream residuo del modello (specificamente il Livello 19 di Llama 3.1 8B) vengono decomposte utilizzando uno Sparse Autoencoder (SAE) per ottenere attivazioni di concetti sparse e interpretabili.

• Filtro di Monotonicità: Gli autori mantengono solo le caratteristiche che esibiscono attivazioni medie monotone e non decrescenti attraverso lo spettro comportamentale.
  • Allineate al comportamento ($F^+$): $\bar{a}(0) \le \bar{a}(+1) \le \bar{a}(+2) \le \bar{a}(+3)$
  • Contro-allineate ($F^-$): $\bar{a}(0) \le \bar{a}(-1) \le \bar{a}(-2) \le \bar{a}(-3)$
• Razionale: Questo filtra direzioni instabili e correlati incidentali, isolando caratteristiche che sono probabilmente causali e scalano fluidamente con l'intensità del comportamento, analogamente alla Slow Feature Analysis (SFA).

3. Rilevamento tramite Probing Lineare

Il rilevamento del comportamento è inquadrato come un problema di classificazione a tre classi (Rifiuto, Neutro, Sicofantia). Classificatori lineari (Regressione Logistica, SVM) vengono addestrati sui vettori CLiF filtrati. Questo approccio isola il contributo del processo di selezione delle caratteristiche, dimostrando che semplici classificatori sulle caratteristiche CLiF raggiungono un'alta accuratezza.

4. Guida Basata sulle Caratteristiche

Le interazioni prendono di mira solo le caratteristiche CLiF identificate durante il forward pass, sfruttando la sparsità degli SAE per evitare la manipolazione globale dello stream residuo.

• Clamping (Blocco): Impostare le attivazioni delle caratteristiche target a zero nello spazio SAE e ricostruire l'input, rimuovendo efficacemente i componenti semantici del comportamento in modo chirurgico.
• Guida Negativa: Spingere attivamente le attivazioni lontano dalle direzioni dei concetti target aggiungendo un coefficiente negativo derivato dalla differenza tra il target e i livelli opposti.

Contributi Chiave e Risultati

1. Scoperta di Sottospazi Linearmente Separabili

Gli autori dimostrano che le caratteristiche della sicofantia scoperte tramite campioni a cascata formano sottospazi linearmente separabili.

• Geometria: Le visualizzazioni PCA mostrano che la prima componente principale corrisponde all'intensità della sicofantia, mentre la seconda corrisponde all'intensità del rifiuto, con le risposte neutre che si raggruppano lungo la diagonale.
• Interpretabilità: Il metodo produce caratteristiche SAE specifiche e ispezionabili (ad es., "affermazioni grandiose di potere", "saluti onorifici formali") piuttosto che vettori densi opachi.

2. Prestazioni di Rilevamento Superiori

• Accuratezza: I probe lineari basati su CLiF raggiungono un'accuratezza del 98,3% sul dataset Anthropic Sycophancy, superando significativamente i baseline LLM-as-a-judge (Gemini 2.5 Pro: ~60-64%).
• Consistenza: A differenza dei metodi LLM-as-a-judge che presentano varianza stocastica, il rilevamento CLiF è deterministico, raggiungendo il 100% di consistenza tra le prove.
• Generalizzazione: Il metodo mantiene un'alta accuratezza (≥98,3%) su dataset out-of-distribution (OOD) (Cultura, Politica Non-USA, Scenari d'Ufficio), mentre i baseline contrastivi degradano significativamente sui dati OOD.

3. Guida Efficace con Minore Overhead

• Performance: Il clamping CLiF riduce il punteggio di sicofantia a 0,33 (sulla scala ELEPHANT), eguagliando il più forte baseline di system-prompting e superando i Persona Vectors densi (0,43) e le Caratteristiche Contrastive (0,45).
• Efficienza: Il clamping CLiF aggiunge solo circa il 10% di overhead di inferenza (costo relativo ~1,1×) eseguendo un singolo hook di encode/decode SAE al Livello 19. Ciò è paragonabile a brevi system prompt ma evita i costi di scaling dei prompt lunghi e fornisce garanzie di interpretabilità.
• Robustezza: Nei casi in cui altri metodi di guida falliscono o inducono il rifiuto, CLF riesce a neutralizzare la sicofantia mantenendo la coerenza.

4. Disentanglement dei Confini Superficiali

L'analisi conferma che le caratteristiche CLiF tracciano gli attributi della sicofantia (ad es., lusinga esplicita, linguaggio sottomesso) piuttosto che i confini superficiali come la cortesia o la verbosità. L'analisi di correlazione mostra che le caratteristiche CLiF hanno una correlazione significativamente più alta con gli attributi della sicofantia ($\rho \in [0,26, 0,75]$) rispetto ai set di caratteristiche casuali ($\rho \in [0,08, 0,21]$).

Significato e Rivendicazioni

Il paper sostiene che le Cascading Linear Features (CLiF) forniscano un framework general-purpose per comprendere e controllare i comportamenti degli LLM. Passando oltre le coppie contrastive binarie verso una generazione di dati iterativa e graduata, il metodo isola le caratteristiche che scalano monotonicamente con il comportamento.

Gli autori sottolineano che questo approccio:

• Migliora l'Interpretabilità: Identificando specifiche caratteristiche monosemantiche responsabili dei gradi del comportamento, offre spunti sui meccanismi cognitivi che i vettori densi non possono fornire.
• Migliora la Quantificazione: Permette un metrica continua e deterministica dell'intensità del comportamento, andando oltre il semplice rilevamento binario.
• Garantisce la Stabilità: Puntando solo alle caratteristiche monotone, evita l'entanglement e la degradazione fuori dal manifold associati ai vettori di guida globali.
• Fornisce Efficienza: Ottiene prestazioni di guida allo stato dell'arte con minore domanda computazionale e maggiori garanzie di interpretabilità rispetto ai baseline LLM-as-a-judge o al system prompting.

Il lavoro suggerisce che questa metodologia può essere estesa per rilevare e controllare altre patologie comportamentali negli LLM oltre alla sicofantia, offrendo una via verso una guida dei modelli più affidabile e trasparente.