Sintesi Tecnica: Conoscere il Pregiudizio, Agire Meglio tramite il Potenziamento dei Neuroni "Know-Bias"

Problema

I Large Language Models (LLM) codificano e riproducono sistematicamente pregiudizi sociali, rinforzando stereotipi dannosi e limitandone l'implementazione sicura. Sebbene la ricerca estensiva abbia tentato di mitigare questi pregiudizi, i metodi esistenti si affidano prevalentemente a un paradigma di soppressione. Tali approcci tentano di ridurre il pregiudizio modificando i parametri del modello, regolando i prompt o sopprimendo i neuroni associati a comportamenti distorti. Gli autori sostengono che questo paradigma soffra di tre debolezze strutturali:

1. Aderenza Fragile: Le difese basate su prompt spesso falliscono nel generalizzare attraverso diversi task, formulazioni o demografie.
2. Inefficienza dei Dati e Limitata Generalizzazione: I metodi basati su addestramento o editing richiedono grandi dataset annotati per il pregiudizio e spesso non riescono a generalizzare a tipi di pregiudizio o demografie non visti.
3. Degradazione della Capacità Generale: Poiché il pregiudizio sociale è distribuito in rappresentazioni altamente sovrapposte, sopprimere i neuroni correlati al pregiudizio induce spesso regressioni indesiderate in comportamenti non correlati e capacità di ragionamento generale.

Metodologia: Potenziamento dei Neuroni Know-Bias

Il documento propone KnowBias, un framework leggero e agnostico rispetto al modello che adotta un paradigma complementare: invece di sopprimere il comportamento distorto, sfrutta la conoscenza del pregiudizio interna al modello. Basandosi sulle osservazioni della scienza cognitiva secondo cui la consapevolezza del pregiudizio riduce il ricorso a giudizi distorti, gli autori ipotizzano che gli LLM codifichino la "conoscenza del pregiudizio" (la capacità di riconoscere che un'affermazione è distorta) in specifiche rappresentazioni neuronali latenti, denominate neuroni know-bias.

Il workflow di KnowBias consiste in tre fasi:

1. Progettazione delle Domande sulla Conoscenza del Pregiudizio

Il metodo elica i segnali di conoscenza del pregiudizio utilizzando un piccolo set di semplici domande yes/no progettate per sondare la capacità del modello di riconoscere opinioni distorte. Queste domande sono costruite combinando:

• Concetti di Pregiudizio: Attributi sociali astratti e di alto livello (es. problem-solving, leadership) piuttosto che stereotipi specifici.
• Dimensioni Demografiche: Categorie ampie (es. razza, genere, religione).
• Tipi di Domanda: Sono utilizzati tre tipi complementari per catturare diverse sfaccettature della conoscenza del pregiudizio:
  • Rifiuto Causale: Sondare se il modello rifiuta legami causali distorti (es. "La razza influenza la capacità di problem-solving?").
  • Riconoscimento del Pregiudizio: Valutare se il modello identifica le credenze come distorte.
  • Giudizio Normativo: Valutare se il modello riconosce l'inappropriatezza sociale/morale di credenze distorte.

2. Identificazione dei Neuroni Know-Bias

Utilizzando un'analisi basata sull'attribuzione (specificamente Integrated Gradients), il metodo quantifica il contributo di neuroni intermedi nelle reti Feed-Forward (FFN) alla previsione delle risposte attese di "conoscenza del pregiudizio".

• I neuroni vengono selezionati se i loro punteggi di attribuzione superano una soglia ($\tau\%$) del punteggio massimo e se compaiono costantemente in almeno una frazione ($\beta\%$) delle domande.
• Questi set vengono aggregati attraverso le dimensioni demografiche (usando una strategia di unione) per formare un set unificato di neuroni know-bias.

3. Potenziamento dei Neuroni durante l'Inferenza

Durante l'inferenza, KnowBias potenzia selettivamente i neuroni identificati senza riaddestrare o modificare i parametri del modello. Per un dato input, le attivazioni dei neuroni know-bias sono scalate moltiplicativamente per un fattore $\lambda$:
$$h_i^{(l)} \leftarrow \lambda \cdot h_i^{(l)}$$
Questa intervento orienta la generazione verso un comportamento più equo amplificando il riconoscimento interno del pregiudizio da parte del modello, piuttosto che sopprimere direttamente l'output.

Contributi Chiave

1. Spostamento Concettuale: Il documento introduce un cambio di paradigma dalla soppressione del comportamento di pregiudizio al potenziamento della conoscenza del pregiudizio. Postula che i modelli possiedano già la conoscenza per identificare il pregiudizio; l'obiettivo è attivare questa conoscenza durante la generazione.
2. Efficienza dei Dati: KnowBias richiede solo un piccolo numero di domande semplici (es. 45 domande attraverso tre dimensioni) per identificare i neuroni efficaci, in contrasto con i metodi precedenti che si affidano a migliaia di campioni specifici per stereotipo per il fine-tuning.
3. Preservazione dell'Utilità: Mirando ai neuroni della "conoscenza del pregiudizio" astratta piuttosto che ai neuroni specificamente correlati al pregiudizio, il metodo evita l'errore comune di degradare le capacità di ragionamento generale e linguistiche.
4. Generalizzabilità: I neuroni identificati generalizzano attraverso diversi tipi di pregiudizio e dimensioni demografiche, suggerendo che la conoscenza del pregiudizio sia codificata in rappresentazioni interne condivise piuttosto che in euristiche specifiche per dimensione.

Risultati Sperimentali

Gli autori hanno valutato KnowBias su tre backbone di LLM (Llama-3.2-3B, Llama-3.1-8B e Qwen-3-4B) su cinque benchmark di pregiudizio sociale (BBQ, CrowS-Pairs, StereoSet) e quattro benchmark di ragionamento generale (COPA, OpenBookQA, ARC).

• Prestazioni di Debiasing: KnowBias ha ottenuto il miglior o il secondo miglior rango medio in tutti i benchmark di pregiudizio sociale e dimensioni demografiche, superando i metodi allo stato dell'arte inclusi quelli basati su prompt (Self-Debiasing), fine-tuning (LFTF, ReGiFT), editing del modello (BiasEdit) e steering delle attivazioni (FairSteer).
• Preservazione dell'Utilità: A differenza di molti baseline che mostravano cali significativi nell'accuratezza del ragionamento generale (segnalati da asterischi nelle tabelle dei risultati), KnowBias mantiene o migliora leggermente le prestazioni sui dataset di capacità generale.
• Generalizzazione: Gli esperimenti hanno dimostrato che i neuroni identificati usando domande su una dimensione demografica (es. razza) mitigano efficacemente il pregiudizio in altre (es. genere), e che i neuroni identificati da concetti astratti si generalizzano a stereotipi specifici.
• Efficienza dei Dati: Le prestazioni si sono saturate con appena 45 domande, indicando che la generazione di dati estesi non è necessaria per un efficace debiasing.

Significato e Rivendicazioni

Il documento sostiene che KnowBias offra un'alternativa robusta, efficiente nei dati e generalizzabile agli approoli convenzionali di soppressione del pregiudizio. Trattando la mitigazione del pregiudizio come un'attivazione di segnali latenti di "conoscenza del pregiudizio" piuttosto che come una soppressione degli output, il metodo ottiene un favorevole trade-off tra equità e utilità.

Gli autori sottolineano che questo approccio è leggero (non richiede riaddestramento) e interpretabile (mirando a neuroni specifici). Concludono che sfruttare la conoscenza del pregiudizio già codificata negli LLM fornisce una via scalabile verso un deployment responsabile, pur riconoscendo che il metodo si basa su giudizi normativi incorporati nel pre-training del modello e che i lavori futuri dovrebbero affrontare dimensioni demografiche più ampie e definizioni di equità interculturale.