Sintesi Tecnica: Verifica della Verità Latente tramite Ingegneria delle Attivazioni

Problematica

La proliferazione della disinformazione rende necessari sistemi di rilevamento scalabili. Sebbene i Large Language Models (LLM) eccellano nella fluidità, spesso generano affermazioni plausibili ma fattualmente errate ("falsità imitative"). Gli approcci tradizionali di Verifica Automatica dei Fatti (AFC) si affidano a caratteristiche linguistiche superficiali, fine-tuning o recupero di evidenze esterne. Tuttavia, questi metodi presentano dei limiti: il fine-tuning richiede una quantità sostanziale di dati etichettati e generalizza scarsamente; i sistemi basati sul recupero sono computazionalmente costosi e sensibili alla qualità delle evidenze; le strategie di prompting soffrono di instabilità e allucinazioni.

Inoltre, esiste un "gap di generazione-discriminazione" in cui i modelli possono possedere una conoscenza latente che distingue la verità dalla falsità, ma non riescono a esprimerla nei loro output predefiniti. Questo articolo postula che la veridicità non sia solo una proprietà del testo generato, ma un concetto strutturato e linearmente separabile all'interno dello spazio di rappresentazione latente dei modelli transformer, offrendo una via alternativa per il rilevamento senza modificare i pesi del modello.

Metodologia

Il framework proposto, Latent Fact-Checking (LaFaCt), utilizza l'ingegneria delle attivazioni per rilevare la disinformazione sfruttando le proprietà geometriche dello stream residuo di un modello. L'approccio non richiede il fine-tuning del modello base e nessun recupero di evidenze esterne.

1. Costruzione di Prompt Contrastivi

Per ogni affermazione di addestramento $s_i$, gli autori costruiscono una coppia di prompt strutturati per ancorare il completamento del modello a specifiche polarità di veridicità:

• $p^+_i$: Ancora la risposta a "Vero" (es. "Risposta: (A)").
• $p^-_i$: Ancora la risposta a "Falso" (es. "Risposta: (B)").
  La mappatura tra le lettere (A/B) e i valori di verità è randomizzata per evitare che il modello associ la disinformazione a un token fisso.

2. Stima della Direzione della Falsità

Seguendo il principio della Contrastive Activation Addition (CAA), il metodo calcola la differenza media tra gli stati nascosti elicitati dai prompt veritieri e da quelli falsi. Per un livello $\ell$, il vettore di direzione della falsità $v^{(\ell)}$ è definito come:
$$v^{(\ell)} = \frac{1}{N} \sum_{i=1}^{N} h^{(\ell)+}_i - \frac{1}{N} \sum_{i=1}^{N} h^{(\ell)-}_i$$
dove $h^{(\ell)\pm}_i$ rappresenta l'attivazione dell'ultimo token del rispettivo prompt. Questo vettore stima l'asse nel flusso residuo che separa la verità dalla falsità.

3. Proiezione del Vettore e Classificazione

A differenza della CAA, che inietta questo vettore per guidare la generazione, questo metodo lo utilizza come un asse di riferimento fisso per la classificazione:

1. Proiezione: L'attivazione dell'ultimo token della sola affermazione (senza il template A/B) viene proiettata sul vettore di direzione normalizzato $\hat{v}^{(\ell)}$.
2. Selezione del Livello: Un classificatore MLP viene addestrato su queste proiezioni per ogni livello $\ell$. Il livello ottimale $\ell^*$ viene selezionato in base all'accuratezza di validazione.
3. Modello Finale: La direzione viene ricalcolata utilizzando l'intero set di addestramento (train + validation), e un MLP finale viene addestrato sulle proiezioni delle attivazioni al livello $\ell^*$.

4. Inferenza

In fase di inferenza, una nuova affermazione viene passata attraverso il modello congelato. La sua attivazione dell'ultimo token al livello selezionato $\ell^*$ viene proiettata sulla direzione della falsità appresa e inviata all'MLP per predire la veridicità.

Contributi Chiave

1. Vettori di Guida per il Giudizio Fattuale: Gli autori investigano e validano l'esistenza di vettori di guida lineari derivati da dataset di fact-checking che codificano le direzioni della falsità.
2. Analisi del Trasferimento tra Dataset: Lo studio analizza la trasferibilità delle direzioni apprese tra diversi dataset (AVeriTeC, LIAR, FACTors), rivelando che i dataset dipendenti dalle evidenze producono direzioni meno portabili rispetto ai dataset basati solo sull'affermazione.
3. Ablazione per Livello: Il lavoro identifica i livelli specifici del transformer che sono più discriminanti per il giudizio di veridicità, dimostrando che i livelli di rilevamento ottimali variano in base all'architettura e alla scala del modello.

Risultati Sperimentali

Il metodo è stato valutato su 11 modelli (famiglie Gemma, Llama, Qwen) con parametri compresi tra 270M e 12B su tre benchmark: AVeriTeC, LIAR e FACTors.

• Performance su LIAR e FACTors: L'approccio latente ha superato costantemente le baseline di zero-shot e few-shot prompting in quasi tutte le configurazioni di modello.
  • Modelli Piccoli: I guadagni sono stati più significativi per i modelli piccoli (es. Gemma-3-1B è passato da 0.52 a 0.75 di accuratezza su LIAR; Llama-3.2-1B da 0.46 a 0.73).
  • Robustezza: Il metodo ha superato il few-shot prompting anche quando quest'ultimo forniva espliciti esempi di etichetta, suggerendo che il segnale latente sia più ricco della generazione superficiale.
• Performance su AVeriTeC: I risultati sono stati più limitati, con il metodo che ha ottenuto prestazioni comparabili o leggermente inferiori alle baseline per i modelli più grandi.
  • Attribuzione: Gli autori attribuiscono ciò allo schema di etichettatura basato su evidenze di AVeriTeC. Le affermazioni in questo dataset sono etichettate in base a evidenze web esterne e ragionamento multi-hop, che non possono essere catturate dal solo testo dell'affermazione. Il metodo, operando esclusivamente sulla rappresentazione interna dell'affermazione, non può accedere ai fatti esterni necessari per confutare l'affermazione.
• Scalabilità e Trasferimento:
  • Dimensione del Campione: L'aumento del numero di coppie contrastive ($N$) ha migliorato le performance su LIAR e FACTors ma non ha avuto effetto su AVeriTeC, confermando che l'eterogeneità del dataset (diversità di argomenti e dipendenza dalle evidenze) ostacola la convergenza di una singola direzione globale della falsità.
  • Fuori Distribuzione (OOD): Le direzioni addestrate su LIAR o FACTors si sono generalizzate bene l'una all'altra. Le direzioni addestrate su AVeriTeC hanno mostrato una degradazione significativa quando applicate ad altri dataset, rafforzando l'instabilità delle direzioni dipendenti dalle evidenze.

Significato e Rivendicazioni

L'articolo sostiene di fornire la prova che la veridicità è un concetto strutturato e linearmente separabile nello spazio latente dei modelli linguistici pre-addestrati. La significatività di questo lavoro risiede in:

1. Complementarità Pratica: Offre un'alternativa leggera e priva di fine-tuning per il rilevamento della disinformazione che può servire come segnale complementare alle pipeline basate sul recupero.
2. Efficienza: L'approccio è particolarmente efficace per i Small Language Models (SLM), dove compensa la capacità limitata, rendendolo praticabile in contesti in cui l'inferenza su larga scala non è fattibile.
3. Verità Interna vs Esterna: I risultati supportano l'ipotesi che gli LLM codifichino segnali di veridicità interni che sono spesso più discriminanti di quanto espresso attraverso la generazione, bypassando efficacemente il gap di generazione-discriminazione.

Gli autori mantengono una posizione modesta, riconoscendo che il loro metodo non è un sostituto della verifica basata su evidenze, ma uno strumento pratico per la valutazione a livello di affermazione quando il segnale di veridicità è inerente al testo stesso. Si suggerisce che il lavoro futuro possa integrare le rappresentazioni dei documenti recuperati per affrontare i limiti osservati nei benchmark dipendenti dalle evidenze come AVeriTeC.