Sintesi Tecnica: L'Inquadratura Conta: Affrontare la Sensibilità all'Inquadratura nel Processo Decisionale attraverso un Allineamento dei Valori Basato sul Comportamento

1. Enunciato del Problema

I Modelli Linguistici di Grande Dimensione (LLM) sono sempre più impiegati in ambiti decisionali ad alto rischio, come il ragionamento giuridico, la triage medica e il giudizio morale. Un requisito critico per questi sistemi è la coerenza: il modello dovrebbe prendere la stessa decisione quando gli vengono presentati input fattualmente equivalenti, indipendentemente da come tali input sono inquadrati linguisticamente.

Tuttavia, questo documento identifica una vulnerabilità significativa: gli LLM mostrano un'alta suscettibilità agli effetti di inquadratura, dove input che preservano i fatti ma sono semanticamente riformulati causano il ribaltamento delle decisioni del modello. A differenza dei bias cognitivi umani (es. avversione alla perdita, bias del presente) che sono ben documentati, i meccanismi interni che guidano la sensibilità all'inquadratura negli LLM rimangono scarsamente compresi. Le strategie di mitigazione esistenti, come le istruzioni a livello di prompt o la guida basata sull'attivazione, spesso falliscono nel sopprimere questa sensibilità e, in alcuni casi, la amplificano attivamente. Il problema fondamentale è che gli interventi attuali affrontano i sintomi superficiali piuttosto che i percorsi rappresentazionali sottostanti attraverso i quali opera l'inquadratura.

2. Metodologia

2.1 Il Benchmark FRAGILE

Per indagare sistematicamente questo problema, gli autori introducono FRAGILE, un benchmark su larga scala progettato per isolare l'inquadratura semantica che preserva i fatti attraverso quattro ambiti ad alto rischio:

1. Dilemma Morale (GGB, UNIBENCH)
2. Triage Medico (TRIAGE, MEDICAL TRIAGE ALIGNMENT DATASET)
3. Giudizio Legale (SUPER-SCOTUS)
4. Conflitto di Ruolo Interpersonale (ROLECONFLICTBENCH)

Il benchmark trasforma scenari di base lungo tre dimensioni controllate e ortogonali derivate dalla teoria psicologica:

• Narrazione Tintata di Valori: Incorpora orientamenti valoriali latenti (basati sui valori umani di Schwartz) nello scenario senza alterare i fatti (es. inquadrare un'azione come "proteggere gli altri" vs. "autonomia").
• Fetta Temporale: Sposta l'orizzonte temporale percepito delle conseguenze (breve termine vs. lungo termine) a livello di opzione.
• Vividezza Narrativa: Modula la concretezza esperienziale attraverso una formulazione orientata all'azione (es. "colpire il censore" vs. "censurare il post").

Il benchmark include 48.140 istanze, incorporando varianti con etichette scambiate per controllare il bias posizionale. La sensibilità all'inquadratura è quantificata tramite Tasso di Ribaltamento (incoerenza comportamentale) e Spostamento Distributivo (distanza L1 tra le distribuzioni decisionali).

2.2 Analisi Diagnostica

Gli autori impiegano l'analisi Logit Lens per proiettare gli stati nascosti al token decisionale nello spazio del vocabolario. Questo permette di tracciare come l'inquadratura altera le rappresentazioni interne strato per strato. L'analisi rivela che i ribaltamenti decisionali indotti dall'inquadratura non sono fenomeni dei primi strati, ma emergono da spostamenti di rappresentazione negli strati finali concentrati vicino al confine decisionale. Sono stati identificati segnali distinti a livello di token per ogni tipo di inquadratura:

• Tintata di Valori: Riorganizzazione distribuita dello spazio dei valori.
• Temporale: Attivazione di percorsi di urgenza (es. token come "immediato", "FUORI").
• Vividezza: Amplificazione dell'ambivalenza o immagini evocative della scena.

2.3 Il Framework VALIGN

Per mitigare questi effetti, il documento propone VALIGN, un framework di intervento a livello di rappresentazione che ancorà le decisioni a un prior di valore stabile. Opera in tre fasi:

1. Estrazione del Vettore di Auto-Relazione: Il modello viene sollecitato ad articolare i suoi valori fondamentali. Lo stato nascosto a uno strato specifico (circa 65–70% di profondità) viene estratto per formare un Vettore di Valore ($\hat{w}$), che rappresenta l'orientamento valoriale intrinseco del modello.
2. Costruzione del Sottospazio di Sensibilità: Utilizzando la PCA sui vettori di differenza tra gli stati nascosti inquadrati e quelli di base, gli autori identificano un Sottospazio di Sensibilità Temporale-Vivida a bassa dimensionalità ($\{\hat{v}_1, \dots, \hat{v}_K\}$) in cui le rappresentazioni sono più sensibili ai segnali di inquadratura.
3. Intervento al Momento dell'Inferenza: Durante il passaggio in avanti, lo stato nascosto ($h$) viene modificato tramite:
   • Guida dei Valori: Aggiunta del vettore di valore per indirizzare lo stato verso direzioni coerenti con i valori: $h^* = h + \alpha \hat{w}$.
   • Proiezione Ortogonale: Proiezione fuori dalle componenti del sottospazio di sensibilità dallo stato guidato: $h' = h^* - \sum (h^* \cdot \hat{v}_i)\hat{v}_i$.

Questo processo è combinato con un prompt di sistema a livello testuale Ancora di Valore che istruisce il modello a ragionare partendo dai valori fondamentali piuttosto che da segnali superficiali.

3. Risultati Chiave

3.1 Sensibilità all'Inquadratura

Gli esperimenti su LLaMA-3.1-8B, Mistral-7B e Qwen2.5-7B rivelano una grave instabilità nell'inquadratura:

• Tasso Medio di Ribaltamento Decisionale: 28,6% su tutti i modelli e tipi di inquadratura.
• La Narrazione Tintata di Valori induce l'instabilità più forte (Ribaltamento Medio 36–47%), seguita dalla Fetta Temporale (21–38%), mentre la Vividezza Narrativa produce effetti più deboli ma comunque significativi (~8–18%).
• Fallimenti della Linea di Base: Le strategie di mitigazione esistenti (prompting di istruzioni, Catena di Pensiero, Vettori di Attivazione dei Concetti) hanno costantemente amplificato la sensibilità all'inquadratura, aumentando i tassi di ribaltamento di 20–40 punti percentuali in molti casi.

3.2 Prestazioni di VALIGN

VALIGN dimostra una mitigazione coerente e significativa su tutti i modelli e tipi di inquadratura:

• Riduzione del Tasso di Ribaltamento: Ha ridotto il tasso medio di ribaltamento dal 28,6% (Base) al 13,2% (VALIGN).
• Guadagni di Stabilità: La proporzione di risposte stabili e a bassa perturbazione (NL%) è aumentata dal 67,1% all'81,9%.
• Miglioramenti Specifici:
  • Sotto Narrazione Tintata di Valori, i tassi di ribaltamento sono scesi da ~40% a ~13%.
  • Sotto Fetta Temporale, i tassi di ribaltamento sono scesi da ~30% a ~13%.
  • Il metodo sopprime efficacemente i ribaltamenti ad alta confidenza (FH%), indicando che le distribuzioni di credenza interne del modello stanno diventando più robuste, non solo l'output finale.
• Generalizzazione: Il metodo rimane efficace su modelli più grandi (LLaMA-3.1-70B) e in scenari multi-inquadratura dove vengono combinati più segnali di inquadratura.

3.3 Studi di Ablazione

Gli studi di ablazione confermano che tutti e tre i componenti di VALIGN sono necessari:

• Rimuovere la Proiezione Temporale-Vivida causa il degrado più grande, in particolare per l'inquadratura temporale e di vividezza.
• Rimuovere l'Ancora Testuale di Valore aumenta i tassi di ribaltamento, dimostrando che è necessaria un'ancoraggio esplicito.
• Rimuovere la Guida dei Valori riduce la stabilizzazione delle distribuzioni di credenza interne (la NL% scende).

4. Significato e Affermazioni

Il documento afferma che raggiungere un processo decisionale invariante rispetto all'inquadratura negli LLM richiede interventi profondi a livello rappresentazionale piuttosto che ingegneria dei prompt a livello superficiale.

• Insight Meccanicistico: Il lavoro fornisce prove che la sensibilità all'inquadratura è guidata da percorsi interni specifici (spostamenti di rappresentazione negli strati finali) che possono essere identificati e neutralizzati.
• Limiti dei Metodi Attuali: Evidenzia che le tecniche di allineamento standard (prompt, CoT) sono insufficienti e possono essere controproducenti per la stabilità, poiché non affrontano le cause rappresentazionali alla radice del bias di inquadratura.
• Robustezza tramite Allineamento dei Valori: I risultati suggeriscono che ancorare le decisioni del modello a un profilo di valori stabile e intrinseco può disaccoppiare efficacemente il processo decisionale dai segnali di inquadratura transitori, offrendo una via verso un'IA più affidabile in ambiti ad alto rischio.

Gli autori mantengono una posizione modesta, riconoscendo che, sebbene il benchmark si concentri su decisioni binarie per una valutazione controllata, i meccanismi sottostanti si estendono probabilmente a spazi decisionali più complessi e multi-opzione (che validano brevemente nell'appendice). Notano inoltre che, sebbene VALIGN migliori la stabilità, potrebbero esserci compromessi con l'accuratezza specifica del compito in determinati ambiti (es. conflitto di ruolo), suggerendo che il lavoro futuro dovrà bilanciare la coerenza con la correttezza normativa.