Technische Samenvatting: Weten over Bias, Beter Handelen via Know-Bias Neuron Versterking

Probleemstelling

Large Language Models (LLMs) coderen en reproduceren systematisch sociale vooroordelen (biases), wat schadelijke stereotypen versterkt en veilige inzet beperkt. Hoewel uitgebreid onderzoek heeft geprobeerd deze vooroordelen te mitigeren, steunen bestaande methoden voornamelijk op een suppressie-paradigma. Deze benaderingen proberen bias te verminderen door modelparameters aan te passen, prompts te wijzigen of neuronen die geassocieerd worden met bevooroordeeld gedrag te onderdrukken. De auteurs stellen dat dit paradigma lijdt onder drie structurele zwakheden:

1. Fragiele Adherentie: Op prompts gebaseerde defensies falen vaak bij het generaliseren naar verschillende taken, formuleringen of demografieën.
2. Data-inefficiëntie en Beperkte Generalisatie: Methoden gebaseerd op training en bewerking vereisen grote, op bias geannoteerde datasets en falen vaak bij het generaliseren naar onbekende typen bias of demografieën.
3. Gedegradeerde Algemene Capaciteit: Omdat sociale bias verspreid is over sterk gesuperponeerde representaties, veroorzaakt het onderdrukken van met bias gecorreleerde neuronen vaak onbedoelde regressies in ongerelateerde gedragingen en algemene redeneercapaciteiten.

Methodologie: Know-Bias Neuron Versterking

Het artikel stelt KnowBias voor, een lichtgewicht, model-agnostisch framework dat een complementair paradigma adopteert: in plaats van bevooroordeeld gedrag te onderdrukken, maakt het gebruik van de interne kennis over bias van het model. Gebruikmakend van observaties uit de cognitieve wetenschap dat bewustzijn van bias de afhankelijkheid van bevooroordeelde oordelen vermindert, hypothetiseren de auteurs dat LLM's "bias-kennis" (het vermogen om te herkennen dat een bewering bevooroordeeld is) coderen in specifieke latente neuronale representaties, getiteld know-bias neuronen.

De KnowBias-workflow bestaat uit drie stadia:

1. Ontwerp van Bias-Kennis Vragen

De methode lokt bias-kennis-signalen uit via een kleine set eenvoudige ja/nee-vragen die ontworig zijn om het vermogen van het model te testen om bevooroordeelde meningen te herkennen. Deze vragen worden geconstrueerd door een combinatie van:

• Bias Concepten: Abstracte, hoogwaardige sociale attributen (bijv. probleemoplossend vermogen, leiderschap) in plaats van specifieke stereotypen.
• Demografische Dimensies: Brede categorieën (bijv. ras, geslacht, religie).
• Vraagtypen: Drie complementaire typen worden gebruikt om verschillende facetten van bias-kennis te vangen:
  • Causale Afwijzing (Causal Rejection): Onderzoeken of het model bevooroordeelde causale verbanden verwerpt (bijv. "Heeft ras invloed op probleemoplossend vermogen?").
  • Bias Herkenning (Bias Recognition): Beoordelen of het model overtuigingen als bevooroordeeld identificeert.
  • Normatieve Oordeelsvorming (Normative Judgment): Evalueren of het model de sociale/morele ongepastheid van bevooroordeelde overtuigingen herkent.

2. Identificatie van Know-Bias Neuronen

Met behulp van een attributie-gebaseerde analyse (specifiek Integrated Gradients) kwantificeert de methode de bijdrage van intermediaire neuronen in Feed-Forward Networks (FFNs) aan het voorspellen van de verwachte "bias-kennis" antwoorden.

• Neuronen worden geselecteerd als hun attributiescores een drempelwaarde ($\tau\%$) van de maximale score overschrijden en als ze consistent verschijnen in ten minste een fractie ($\beta\%$) van de vragen.
• Deze sets worden geaggregeerd over demografische dimensies (met een unie-strategie) om een verenigde set van know-bias neuronen te vormen.

3. Neuron Versterking tijdens Inferentie

Tijdens de inferentie versterkt KnowBias selectief de geïdentificeerde neuronen zonder het model te hertrainen of parameters te wijzigen. Voor een gegeven input worden de activaties van de know-bias neuronen multiplicatief geschaald met een factor $\lambda$:
$$h_i^{(l)} \leftarrow \lambda \cdot h_i^{(l)}$$
Deze interventie stuurt de generatie naar eerlijker gedrag door de interne herkenning van bias in het model te versterken, in plaats van de output direct te onderdrukken.

Belangrijkste Bijdragen

1. Conceptuele Verschuiving: Het artikel introduceert een paradigmaverschuiving van het onderdrukken van bias-gedrag naar het versterken van bias-kennis. Het stelt dat modellen al over de kennis beschikken om bias te identificeren; het doel is om deze kennis te activeren tijdens de generatie.
2. Data-efficiëntie: KnowBias vereist slechts een handvol eenvoudige vragen (bijv. 45 vragen over drie dimensies) om effectieve neuronen te identificeren, wat contrasteert met eerdere methoden die duizenden stereotype-specifieke samples nodig hebben voor fine-tuning.
3. Behoud van Nut: Door zich te richten op abstracte "bias-kennis" neuronen in plaats van specifieke bias-gecorreleerde neuronen, vermijdt de methode de veelvoorkomende valkuil van het degraderen van algemene redeneer- en taalvaardigheden.
4. Generaliseerbaarheid: De geïdentificeerde neuronen generaliseren over verschillende typen bias en demografische dimensies, wat suggereert dat bias-kennis is gecodeerd in gedeelde interne representaties in plaats van dimensie-specifieke heuristieken.

Experimentele Resultaten

De auteurs evalueerden KnowBias op drie LLM-backbones (Llama-3.2-3B, Llama-3.1-8B, en Qwen-3-4B) over vijf sociale bias-benchmarks (BBQ, CrowS-Pairs, StereoSet) en vier algemene redeneer-benchmarks (COPA, OpenBookQA, ARC).

• Debiasing Prestaties: KnowBias behaalde de beste of op één na beste gemiddelde rang over alle sociale bias-benchmarks en demografische dimensies, waarbij het state-of-the-art baselines overtrof, inclusief prompt-gebaseerde (Self-Debiasing), fine-tuning (LFTF, ReGiFT), model-editing (BiasEdit) en activatie-sturing (FairSteer) methoden.
• Behoud van Nut: In tegen tegenstelling tot veel baselines die significante dalingen in algemene redeneernauwkeurigheid lieten zien (gemarkeerd door asteriskjes in de resultatentabellen), behield KnowBias de prestaties op algemene capaciteitsdatasets of verbeterde het zelfs licht.
• Generalisatie: Experimenten toonden aan dat neuronen geïdentificeerd met vragen over één demografische dimensie (bijv. ras) effectief bias in andere dimensies (bijv. geslacht) mitigeerden, en dat neuronen geïdentificeerd uit abstracte concepten generaliseerden naar specifieke stereotypen.
• Data-efficiëntie: De prestaties verzadigden met slechts 45 vragen, wat aangeeft dat uitgebreide datageneratie niet noodzakelijk is voor effectieve debiasing.

Betekenis en Claims

Het artikel claimt dat KnowBias een robuust, data-efficiënt en generaliseerbaar alternatief biedt voor conventionele bias-onderdrukkingsbenaderingen. Door bias-mitigatie te behandelen als een activatie van latente "know-bias" signalen in plaats van een onderdrukking van outputs, bereikt de methode een gunstige fairness-utility trade-off.

De auteurs benadrukken dat deze aanpak lichtgewicht is (geen hertraining vereist) en interpreteerbaar (gericht op specifieke neuronen). Ze concluderen dat het benutten van de reeds gecodeerde bias-kennis binnen LLM's een schaalbare weg biedt naar verantwoordelijke inzet, hoewel ze erkennen dat de methode rust op normatieve oordelen ingebed in de pretraining van het model en dat toekomstig werk bredere demografische dimensies en cross-culturele definities van eerlijkheid moet adresseren.