Sintesi Tecnica: COFT (Counterfactual-Conformal Decoding per un ragionamento Chain-of-Thought equo)

1. Definizione del Problema

I Large Language Models (LLM) addestrati su corpora web interiorizzano e spesso amplificano i pregiudizi sociali, in particolare durante la generazione del Chain-of-Thought (CoT). Sebbene l'output finale di un modello possa apparire neutro, i passaggi intermedi di ragionamento possono rivelare associazioni dannose token per token. Le strategie di mitigazione esistenti affrontano limitazioni significative:

• Metodi in fase di addestramento (es. fine-tuning, RLHF, cura dei dati) sono computazionalmente costosi, richiedono l'accesso ai pesi del modello e rischiano di degradare le prestazioni nel dominio generale o di codificare i pregiudizi degli annotatori.
• Steering in fase di inferenza (es. l'uso di classificatori ausiliari o ensemble di esperti) introduce latenza, si basa sui punti ciechi dei classificatori esterni e manca di rigorose garanzie statistiche.
• Debiasing nello spazio delle rappresentazioni (es. proiezione dello spazio nullo) applica spesso correzioni globali e indipendenti dal prompt che possono sopprimere semantiche legittime dipendenti dal contesto e non riescono a catturare manifestazioni di bias non lineari.

Crucialmente, gli approcci attuali mancano di garanzie statistiche per ogni singolo step al momento della decodifica. Non specificano quali token possano essere emessi in sicurezza mantenendo sotto controllo il rischio di bias, né impongono la parità controfattuale locale (stabilità dell'output sotto variazioni ipotetiche di segmenti sensibili nel prompt) ad ogni step di decodifica.

2. Metodologia: COFT

COFT (Chain of Fair Thought) è un framework di decodifica senza addestramento, operante solo in fase di inferenza, progettato per imporre l'equità controfattuale per modelli causali congelati. Opera in tre fasi distinte:

Fase I: Mascheramento Controfattuale

COFT costruisce una versione "mascherata" del prompt di input, $\hat{p}$, sostituendo i segmenti sensibili (es. genere, razza, identificatori religiosi) con token sentinella neutrali (es. [MASK]).

• Implementazione: L'operatore di mascheramento è deterministico e preserva la lunghezza. Se un segmento sensibile viene tokenizzato in $k$ token, viene sostituito da $k$ token sentinella. Ciò garantisce che i rami fattuale e mascherato rimangano perfettamente allineati nella posizione assoluta, permettendo confronti validi dei logit a livelli identici di prefissi autoregressivi.
• Esecuzione a due rami: Il modello $f_\theta$ viene eseguito due volte in parallelo: una sul prompt fattuale $p$ e una sul prompt mascherato $\hat{p}$, condizionati dallo stesso prefisso generato $w_{<t}$.

Fase II: Fusione dei Logit Controfattuale

Per attenuare i bias guidati dagli attributi, COFT esegue una interpolazione convessa delle distribuzioni dei logit dai rami fattuale ($z^F_t$) e mascherato ($z^{CF}_t$):
$$\tilde{z}_t = (1 - \lambda) z^F_t + \lambda z^{CF}_t$$
dove $\lambda \in [0, 1]$ è un parametro di fusione regolabile.

• Effetto: Questa operazione crea una miscela geometrica delle due distribuzioni di probabilità. Teoricamente, interpola linearmente i log-odds tra i token, "accecando" efficacemente il modello rispetto agli attributi sensibili pur preservando le regioni ad alta probabilità della distribuzione. Questa fusione avviene prima della certificazione per garantire che il successivo passaggio di filtraggio operi su distribuzioni che concordano già sulle loro regioni ad alta massa.

Fase III: Filtraggio Split-Conformal a Doppio Ramo

COFT applica una procedura di predizione split-conformal (CP) per certificare un insieme di token candidati ad ogni step $t$.

• Punteggio di non conformità: Un punteggio è definito per ogni token $v$ basandosi sulla probabilità minima che esso detiene sia nella distribuzione fattuale fusa ($\tilde{\pi}_t$) che nella distribuzione mascherata ($\pi^{CF}_t$):
  $$s_t(v) = 1 - \min\{ \tilde{\pi}_t(v), \pi^{CF}_t(v) \}$$
• Calibrazione: Offline, su un set di calibrazione disgiunto, viene calcolato il quantile $(1-\alpha)$ di questi punteggi $q_t$.
• Certificazione: Al tempo del test, un token è ammesso all'insieme dei candidati $C_t$ solo se il suo punteggio è inferiore alla soglia ($s_t(v) \le q_t$), il che equivale a richiedere che il token abbia una probabilità sufficiente in entrambe le viste, fattuale e mascherata, simultaneamente.
• Campionamento: Il token finale viene campionato dalla distribuzione fusa $\tilde{\pi}_t$ ristretta all'insieme certificato $C_t$. Se $C_t$ è vuoto (un evento raro), si utilizza un fallback deterministico (es. argmax).

3. Contributi Chiave

1. Decodifica Equa Senza Addestramento: COFT fornisce un meccanismo per imporre l'equità su LM congelati senza riaddestramento, accesso ai gradienti o classificatori ausiliari.
2. Garanzie Marginali per Step: A differenza dei metodi precedenti, COFT offre garanzie di validità marginale distribuzione-free (sotto l'ipotesi di scambiabilità) per la stabilità dei token emessi. Certifica che il vero token successivo sia incluso nell'insieme dei candidati con probabilità almeno $1-\alpha$.
3. Parità Controfattuale Locale: Il metodo operazionalizza l'equità controfattuale a livello di token, assicurando che il processo di decodifica rimanga stabile quando gli attributi sensibili nel prompt vengono ipoteticamente alterati.
4. Architettura a Doppio Ramo: Fondendo i logit e richiedendo il supporto congiunto di entrambe le viste fattuale e mascherata, COFT attenua efficacementamente il bias preservando l'utilità del compito.

4. Risultati Sperimentali

Gli autori hanno valutato COFT su sei modelli (tra cui LLaMA-2, Mistral, Mixtral e Qwen2) e molteplici benchmark di bias (StereoSet, CrowS-Pairs, BBQ, BOLD, Utrecht, COMPAS) insieme a standard task di utilità (GSM8K, StrategyQA, ARC-easy, PIQA).

• Mitigazione del Bias: COFT ha ridotto i metriche standard di bias del 30–55% (mediana 38%) rispetto alla decodifica vanilla e ha superato forti baseline di inferenza (es. Self-Debiased Decoding, DExperts, Dual-Threshold Conformal Decoding). Ad esempio, sul dataset BBQ, la riduzione del bias ha raggiunto il 34–41%.
• Preservazione dell'Utilità: L'accuratezza del task sui benchmark di ragionamento e QA è rimasta invariata entro i margini di rumore da esecuzione a esecuzione (differenze $\le 0.2$ punti). Le metriche di qualità del linguaggio (Perplexity, MAUVE) sono indistinguibili dalla decodifica vanilla.
• Efficienza: L'overhead computazionale è modesto, equivalente a un passaggio forward aggiuntivo con cache per step. Il throughput è ridotto di circa il 10–25%, e l'uso di memoria di picco aumenta in modo trascurabile ($\le 0.8$ GB).
• Ablazioni: Rimuovendo la fusione dei logit, il bias residuo è aumentato, confermando che la fusione è il meccanismo primario per attenuare i log-odds guidati dagli attributi. Rimuovendo il filtro conforme a doppio ramo, si è verificata una perdita delle garanzie di stabilità controfattuale.

5. Significato e Rivendicazioni

Il paper posiziona COFT come un percorso chiaro e verificabile per una generazione CoT più sicura. Il suo significato primario risiede nel fornire limiti di sicurezza verificabili per modelli congelati senza i costi computazionali proibitivi del riaddestramento.

• Sicurezza Auditable: Fornendo garanzie marginali per ogni step, COFT consente ai professionisti di distribuire modelli in domini sensibili (es. sanità, legale, assunzioni) con una misura quantificata del rischio.
• Robustezza: Il metodo è robusto ai cambiamenti di distribuzione (con una degradazione della copertura che avviene in modo graduale in base ai rapporti di densità) e mantiene le prestazioni attraverso diverse architetture di modelli.
• Limitazioni: Gli autori notano con modestia che gli interventi algoritmici non sono una panacea. Le garanzie dipendono dalla specifica definizione degli attributi sensibili e dall'ipotesi di scambiabilità tra i dati di calibrazione e i dati di test. Inoltre, la decodifica a doppio ramo introduce latenza di inferenza, che deve essere pesata rispetto ai benefici della riduzione del bias. Il metodo è più appropriato per scenari in cui la traccia di ragionamento stessa deve essere auditable.

In sintesi, COFT dimostra che è possibile ridurre significativamente i pregiudizi sociali nelle tracce di ragionamento degli LLM preservando l'utilità, utilizzando una procedura leggera e senza addestramento fondata sulla teoria della predizione conforme.