Neuron-Level Interventions for Gendered and Gender-Neutral Generation in Language Models

Technische Samenvatting: Interventies op Neuronniveau voor Gendered en Gender-Neutrale Generatie in Taalmodellen

Probleemstelling
Grote taalmodellen (LM's) genereren frequent gendergeladen taal en versterken stereotypen, zelfs wanneer ze worden aangestuurd door neutrale input. Hoewel eerder onderzoek uitgebreid genderbias heeft onderzocht via een binaire lens (vrouwelijk versus mannelijk), is er beperkt begrip van hoe genderneutrale vormen (bijv. het enkelvoudige "they", neutrale functietitels) zijn gecodeerd binnen de representaties van modellen. Bovendien werken bestaande mitigatiestrategieën vaak op inferentieniveau (bijv. few-shot prompting, gestructureerde beperkingen) zonder expliciet de interne mechanismen te lokaliseren die verantwoordelijk zijn voor gendergeladen gedrag. De specifieke vraag die wordt behandeld is of gendergerelateerde signalen gelokaliseerd kunnen worden tot specifieke neuronen binnen de feed-forward netwerken (FFN) van Transformers en of deze neuronen causaal gemanipuleerd kunnen worden om generatie te sturen naar vrouwelijke, mannelijke of genderneutrale vormen, terwijl de semantische betekenis behouden blijft.

Methodologie
De auteurs stellen een interventiekader op neuronniveau voor dat drie primaire stadia omvat:

1. Neuronactivatie en Identificatie:
   De studie richt zich op de intermediaire neuronen binnen de Multi-Layer Perceptron (MLP) blokken van Transformer-modellen. Voor drie gendercategorieën ($g \in \{mannelijk, vrouwelijk, neutraal\}$) berekenen de auteurs activatiestatistieken voor elk neuron over gender-specifieke tekstcorpora. Om neuronen te identificeren die sterk aan een specifiek gender zijn gebonden met minimale overlap, introduceren zij een Combined Exclusivity Score. Deze score aggregeert drie complementaire maten voor elk neuron $j$ in laag $l$:

   • Effectgrootte (Cohen's $d$): Het gestandaardiseerde verschil in gemiddelde activaties tussen het doelgender en alle andere genders.
   • Log-Odds Verschil ($\Delta$): De relatieve waarschijnlijkheid van positieve activatie voor het doelgender versus anderen.
   • Relatieve Gemiddelde Verschil ($r$): Het proportionele verschil in activatiemagnitude.
     Een neuron wordt geselecteerd voor een specifiek gender alleen als het de hoogste exclusiviteitsscore voor die categorie behaalt en voldoet aan vooraf gedefinieerde drempelwaarden voor alle drie de metrieken.

2. Gecontroleerde Generatie via Maskering:
   Om causaliteit te valideren, voeren de auteurs interventies tijdens de inferentie uit. Zij genereren "baseline" outputs en "gemaskeerde" outputs. In de gemaskeerde conditie passen zij een "keep-only" strategie toe: voor een doelgender $g$ blijven de voor $g$ geïdentificeerde neuronen actief, terwijl de neuronen die geïdentificeerd zijn voor de andere twee genders worden gemaskeerd (gedeactiveerd). Dit test of de geïdentificeerde neuronen voldoende zijn om het model te sturen naar de gewenste genderform.

3. Evaluatieprotocol:
   De effectiviteit van de interventie wordt geëvalueerd met twee datasets: GCGender (afgeleid van bestaande binaire datasets met toegevoegde neutrale versies) en InclusiveGender (samengesteld met behulp van inclusieve taalwoordenboeken). De evaluatiemetrieken zijn:

   • Keyword-gebaseerde Analyse: Het meten van de verandering in de ratio van gender-specifieke termen (mannelijk, vrouwelijk, neutraal) in de output ten opzichte van de baseline.
   • Menselijke Evaluatie: Het beoordelen van "Overall Idea Preservation" (behoud van semantiek) en "Target Gender Realization" (correctheid van gendergeladen bewoording).

Belangrijkste Bijdragen

• Tripartiete Genderanalyse: Dit werk breidt eerdere binaire genderstudies uit door expliciet neuronen te identificeren en te controleren voor drie categorieën: vrouwelijk, mannelijk en genderneutraal.
• Nieuwe Identificatiemetriek: De introductie van een gecombineerd exclusiviteitsscoresysteem om neuronen te isoleren die ondubbelzinnig aan één gendercategorie zijn gebonden, waarmee de uitdaging van overlappende activaties wordt aangepakt.
• Nieuwe Datasets: De curatie van InclusiveGender (8.600 zinnen per categorie) en de uitbreiding van GCGender met genderneutrale varianten, gevalideerd door menselijke annotatie voor hoge kwaliteit en lage ambiguïteit.
• Causale Validatie: Een rigoureus protocol dat aantoont dat het maskeren van specifieke neuronen de gendergeladen output causaal verandert terwijl de semantische integriteit behouden blijft.

Resultaten
Experimenten uitgevoerd op Llama-3.1-8B en Qwen2.5-7B leverden de volgende bevindingen op:

• Laagdistributie: Gender-specifieke neuronen zijn niet gelijkmatig verdeeld. Ze concentreren zich sterk in de vroegste lagen (meestal lagen 0–3) van de modellen, met aanzienlijk kleinere bijdragen van middelste en latere lagen. Dit staat in contrast met concurrerende methoden (LAPE, sNeuron-TST), die de neiging hebben om neuronen in latere lagen te identificeren.
• Controleprecisie: De voorgestelde methode bereikt een nauwkeurigere gendercontrole dan bestaande baselines. Wanneer een specifiek gender wordt nagestreefd, slaagt de methode erin de ratio van doelgender-termen te behouden of te verhogen, terwijl niet-doeltermen worden onderdrukt. Concurrerende methoden vertoonden een hogere "lekkage", waarbij vaak ongerelateerde genderratio's werden opgeblazen (bijv. het verhogen van neutrale termen wanneer mannelijk werd nagestreefd).
• Kwaliteitstoleranties: Menselijke evaluatie toonde aan dat de interventiemethode de "Target Gender Realization" significant verbetert ten opzille van baselines. Hoewel er een kleine, annotator-afhankelijke afname was in "Overall Idea Preservation" (toe te schrijven aan subjectieve oordelen over veranderingen in formulering), bleef de kernbetekenis grotendeels behouden.
• Datasetgevoeligheid: De studie merkte op dat kleinere trainingssets (zoals bij GCGender) kunnen leiden tot ruis bij de identificatie van neuronen, met name voor de neutrale categorie, wat suggereert dat het datavolume de precisie van de exclusiviteitsfiltering beïnvloedt.

Betekenis en Claims
Het artikel beweert een eenvoudige maar effectieve aanpak te bieden voor het begrijpen van hoe gender is gecodeerd in LM's. Door aan te tonen dat genderrepresentaties gelokaliseerd zijn tot een klein deel van de neuronen (vaak <0,5% van de totale parameters) geconcentreerd in vroege lagen, biedt het werk een mechanistische verklaring voor gendergeladen generatie. De auteurs stellen dat hun interventie op neuronniveau een duidelijker begrip biedt van intern modelgedrag dan interventies die enkel op de output gericht zijn. Zij positioneren dit werk als een fundamentele stap naar gecontroleerde genderinterventie, wat een instrument biedt voor zowel het evalueren van neuron-gebaseerde bias-mitigatie als het potentieel verminderen van genderbias in toekomstige modelimplementaties. De auteurs blijven bescheiden over de beperkingen en erkennen dat hun bevindingen momenteel beperkt zijn tot 7–8B parameter modellen en dat kleinere datasets ruis kunnen introduceren bij de selectie van neuronen.