Neuron-Level Interventions for Gendered and Gender-Neutral Generation in Language Models

Sintesi Tecnica: Interventi a livello di neurone per la generazione di linguaggio genere-specifico e genere-neutro nei modelli linguistici

Problematica
I Large Language Models (LM) generano frequentemente un linguaggio connotato dal genere e rinforzano gli stereotipi, anche quando sollecitati con input neutri. Mentre la ricerca precedente ha esaminato estensivamente il bias di genere attraverso una lente binaria (femminile vs maschile), esiste una comprensione limitata di come le forme neutre rispetto al genere (ad esempio, il "they" singolare, titoli professionali neutri) siano codificate nelle rappresentazioni del modello. Inoltre, le strategie di mitigazione esistenti operano spesso a livello di inferenza (ad esempio, few-shot prompting, vincoli strutturati) senza localizzare esplicitamente i meccanismi interni responsabili del comportamento di genere. La domanda specifica affrontata è se i segnali relativi al genere possano essere localizzati in specifici neuroni all'interno delle reti feed-forward (FFN) dei Transformer e se questi neuroni possano essere manipolati causalmente per guidare la generazione verso forme femminili, maschili o neutre pur preservando il significato semantico.

Metodologia
Gli autori propongono un framework di intervento a livello di neurone che prevede tre fasi principali:

1. Attivazione e Identificazione dei Neuroni:
   Lo studio si concentra sui neuroni intermedi all'interno dei blocchi Multi-Layer Perceptron (MLP) dei modelli Transformer. Per tre categorie di genere ($g \in \{maschile, femminile, neutro\}$), gli autori calcolano le statistiche di attivazione per ogni neurone attraverso corpora testuali specifici per genere. Per identificare i neuroni fortemente legati a un genere specifico minimizzando la sovrapposizione, introducono un Punteggio di Esclusività Combinato (Combined Exclusivity Score). Questo punteggio aggrega tre misure complementari per ogni neurone $j$ nel layer $l$:

   • Dimensione dell'Effetto (Cohen's $d$): La differenza standardizzata nelle attivazioni medie tra il genere target e tutti gli altri generi.
   • Differenza di Log-Odds ($\Delta$): La probabilità relativa di attivazione positiva per il genere target rispetto agli altri.
   • Differenza Media Relativa ($r$): La differenza proporzionale nell'entità dell'attivazione.
     Un neurone viene selezionato per un genere specifico solo se raggiunge il punteggio di esclusività più alto per quella categoria e soddisfa soglie predefinite in tutti e tre i parametri.

2. Generazione Controllata tramite Masking:
   Per validare la causalità, gli autori eseguono interventi durante l'inferenza. Generano output "baseline" e output "mascherati". Nella condizione di masking, applicano una strategia "keep-only": per un genere target $g$, i neuroni identificati per $g$ rimangono attivi, mentre i neuroni identificati per gli altri due generi vengono mascherati (disattivati). Ciò serve a testare se i neuroni identificati sono sufficienti per guidare il modello verso la forma di genere target.

3. Protocollo di Valutazione:
   L'efficacia dell'intervento è valutata utilizzando due dataset: GCGender (derivato da dataset binari esistenti con l'aggiunta di versioni neutre) e InclusiveGender (curato tramite dizionari di linguaggio inclusivo). Le metriche di valutazione includono:

   • Analisi Basata su Parole Chiave: Misurazione della variazione del rapporto di termini specifici di genere (maschile, femminile, neutro) nell'output rispetto alla baseline.
   • Valutazione Umana: Valutazione di "Preservazione dell'Idea Complessiva" (ritenzione semantica) e "Realizzazione del Genere Target" (correttezza della terminologia di genere).

Contributi Chiave

• Analisi Tripartita del Genere: Il lavoro estende i precedenti studi sul genere binario identificando e controllando esplicitamente i neuroni per tre categorie: femminile, maschile e neutro.
• Nuova Metrica di Identificazione: L'introduzione di un sistema di punteggio di esclusività combinata per isolare i neuroni che sono inequivocabilmente legati a una singola categoria di genere, affrontando la sfida delle attivazioni sovrapposte.
• Nuovi Dataset: La cura di InclusiveGender (8.600 frasi per categoria) e l'espansione di GCGender per includere varianti di genere neutro, validate tramite annotazione umana per alta qualità e bassa ambiguità.
• Validazione Causale: Un protocollo rigoroso che dimostra come il masking di specifici neuroni alteri causalmente l'output di genere mantenendo l'integrità semantica.

Risultati
Gli esperimenti condotti su Llama-3.1-8B e Qwen2.5-7B hanno prodotto i seguenti risultati:

• Distribuzione dei Layer: I neuroni specifici per genere non sono distribuiti uniformemente. Si concentrano pesantemente nei primi layer (tipicamente i layer 0–3) dei modelli, con contributi significativamente minori dai layer medi e successivi. Ciò contrasta con i metodi concorrenti (LAPE, sNeuron-TST), che tendono a identificare neuroni nei layer successivi.
• Precisione del Controllo: Il metodo proposto ottiene un controllo del genere più preciso rispetto ai baseline esistenti. Quando si punta a un genere specifico, il metodo riesce a preservare o aumentare il rapporto di termini del genere target sopprimendo i termini non target. I metodi concorrenti hanno mostrato una maggiore "dispersione" (leakage), spesso gonfiando rapporti di genere non correlati (ad esempio, aumentando i termini neutri quando si punta al maschile).
• Compromessi sulla Qualità: La valutazione umana ha mostrato che il metodo di intervento migliora significativamente la "Realizzazione del Genere Target" rispetto ai baseline. Sebbene vi sia stata una lieve diminuzione, dipendente dall'annotatore, nella "Preservazione dell'Idea Complessiva" (attribuita a giudizi soggettivi sulle variazioni di fraseggio), il significato centrale è stato ampiamente mantenuto.
• Sensibilità del Dataset: Lo studio ha rilevato che set di addestramento più piccoli (come in GCGender) possono portare a un'identificazione dei neuroni più rumorosa, in particolare per la categoria neutra, suggerendo che il volume dei dati influenzi la precisione del filtraggio di esclusività.

Significatività e Rivendicazioni
Il paper sostiene di fornire un approccio semplice ma efficace per comprendere come il genere sia codificato nei LM. Dimostrando che le rappresentazioni di genere sono localizzate in una piccola frazione di neuroni (spesso <0,5% del totale dei parametri) concentrati nei primi layer, il lavoro offre una spiegazione meccanicistica della generazione di genere. Gli autori affermano che il loro intervento a livello di neurone fornisce una comprensione più chiara del comportamento interno del modello rispetto alle strategie di mitigazione basate solo sull'output. Posizionano questo lavoro come un passo fondamentale verso un intervento di genere controllato, offrendo uno strumento sia per valutare la mitigazione del bias basata sui neuroni, sia potenzialmente per ridurre il bias di genere nelle future implementazioni dei modelli. Gli autori mantengono un approccio modesto riguardo ai limiti, riconoscendo che le loro scoperte sono attualmente limitate a modelli con 7–8 miliardi di parametri e che dataset più piccoli possono introdurre rumore nella selezione dei neuroni.