Bias In, Bias Out? Finding Unbiased Subnetworks in Vanilla Models

Dit paper introduceert BISE, een strategie die bestaande, vooroordeelvrije subnetwerken uit standaard getrainde modellen haalt door pruning, waardoor bias-effectieve mitigatie mogelijk is zonder extra data of hertraining.

De kern

Titel: De "Bias-In, Bias-Out" Probleemoplossing: Hoe we een eerlijk brein vinden in een vooroordeelsvol model

Stel je voor dat je een zeer slimme, maar iets vooroordeelvolle kok hebt. Deze kok (het AI-model) is opgeleid met een receptenboek (de trainingsdata) dat vol zit met vreemde patronen. Bijvoorbeeld: in dit boek staat dat als een gerecht rood is, het smaakt naar aardbeien. Maar dat is niet waar! De koks hebben gewoon per ongeluk geleerd dat alle aardbeienrecepten in het boek rood zijn gekleurd, terwijl er ook blauwe aardbeienrecepten bestaan die ze nooit hebben gezien.

Als je deze kok vraagt om aardbeien te herkennen, zal hij blindelings naar de kleur rood kijken en alles wat rood is "aardbei" noemen. Dit noemen we bias (vooroordeel). In de echte wereld is dit gevaarlijk: een gezichtsherkenningssysteem dat denkt dat alleen mensen met een bepaalde huidskleur of kledingstijl "veilig" zijn, of een sollicitatiesysteem dat vrouwen afwijst omdat het geleerd heeft dat mannen vaker worden aangenomen.

Het oude probleem: "Hoe maken we de kok eerlijk?"

Tot nu toe was de enige manier om deze kok eerlijk te maken om hem opnieuw te leren. Je moest hem een nieuw, perfect gebalanceerd receptenboek geven en hem maandenlang opnieuw laten oefenen. Dit kost enorm veel tijd, geld en energie. Alsof je een hele nieuwe schoolopleiding moet volgen voor je kok.

De nieuwe oplossing: BISE (De "Snoeier")

De auteurs van dit paper hebben een slimme, nieuwe aanpak bedacht genaamd BISE. In plaats van de kok opnieuw te leren, kijken ze of er al een eerlijke sub-kok in zijn hoofd verborgen zit.

Hier is hoe het werkt, met een paar creatieve vergelijkingen:

1. Het brein als een overvol kantoor
Stel je het AI-model voor als een groot kantoor met duizenden werknemers (de neuronen). De meeste werknemers doen hun werk goed, maar een groepje "slechte werknemers" zit constant te kijken naar de verkeerde dingen (bijvoorbeeld de kleur van de kleding in plaats van de inhoud van het sollicitatiegesprek). Deze slechte werknemers hebben de hele kantoorcultuur verpest.

2. De "Snoeermasker"
BISE is als een slimme manager die een lijstje maakt. Hij zegt niet: "We gaan het hele kantoor slopen en opnieuw bouwen." Nee, hij zegt: "We gaan alleen die specifieke werknemers ontslaan die zich blindstaren op de verkeerde dingen, en de rest laten we gewoon doen wat ze doen."

Deze manager gebruikt een snoeermasker. Hij kijkt naar elke werknemer en zegt: "Jij bent nuttig voor de taak, blijf!" of "Jij kijkt alleen naar de vooroordelen, ga weg!"

3. Het magische resultaat
Het verrassende is: door alleen die "slechte" werknemers weg te halen, wordt het overgebleven team (het subnetwerk) plotseling veel eerlijker en slimmer. Ze zijn niet meer afgeleid door de trucs in het oude receptenboek. Ze kijken nu echt naar de inhoud.

• Geen nieuwe training: De "goede" werknemers hoeven niet opnieuw te leren. Ze zijn er al, ze zaten alleen verstopt onder de rommel.
• Sneller en lichter: Omdat we werknemers hebben ontslagen, is het kantoor nu kleiner en werkt het sneller. Het kost minder energie om te draaien.

Waarom is dit zo belangrijk?

• Het is goedkoop: Je hoeft geen dure nieuwe datasets te verzamelen of maanden te trainen. Je pakt gewoon het bestaande, "vooroordeelvolle" model en snoeit het bij.
• Het werkt direct: In veel tests (zoals het herkennen van gezichten of teksten) bleek dat dit "gesnoeide" team al beter presteerde dan de oorspronkelijke, vooroordeelvolle versie. En als je ze daarna nog een klein beetje bijstelt (finetuning), waren ze zelfs de allerbeste.
• Het is eerlijk: Het model leert niet meer te vertrouwen op makkelijke trucs (zoals "rood = aardbei"), maar op de echte, moeilijke patronen.

Samenvatting in één zin

In plaats van een hele nieuwe, eerlijke AI te bouwen, laat BISE zien dat je vaak al een eerlijke AI in je handen hebt; je moet alleen de "vooroordeelvolle" onderdelen eruit knippen, net zoals je een slechte tak van een boom wegsnoeit zodat de boom weer gezond en recht kan groeien.

Technische samenvatting

Probleemstelling

Diepe leermodellen (deep learning) zijn vaak vatbaar voor algoritmische bias. Dit ontstaat wanneer modellen tijdens het trainen onbedoelde "shortcuts" leren in plaats van causale relaties. Bijvoorbeeld, een gezichtsherkenningssysteem dat zich baseert op de huidskleur of het geslacht van een persoon in plaats van op de daadwerkelijke gezichtskenmerken, omdat deze attributen in de trainingsdata sterk gecorreleerd zijn met het doel (bijv. een specifiek beroep of een ziekte).

Bestaande methoden om deze bias te bestrijden (debiasing) vallen meestal in twee categorieën:

1. Data-centric: Het herschikken of aanvullen van de dataset (bijv. oversampling van minderheidsgroepen). Dit vereist vaak toegang tot een onbevooroordeelde dataset, wat in de praktijk zeldzaam of onhaalbaar is.
2. Model-centric: Het opnieuw trainen van het hele model met aangepaste verliesfuncties of adversarial training. Dit is computatief duur en vaak niet haalbaar voor grote schaal.

De centrale vraag van dit paper is: Is het mogelijk om eerlijke, bias-agnostische subnetwerken te extraheren uit standaard, "vanilla" getrainde modellen zonder extra data of hertraining van de oorspronkelijke parameters?

Methodologie: BISE (Bias-Invariant Subnetwork Extraction)

De auteurs stellen BISE voor, een strategie die subnetwerken identificeert die al bestaan binnen een vooringestelde, dichtbevolkte (dense) neural network, zonder de gewichten van het oorspronkelijke model aan te passen. De kern van de methode is gestructureerde pruning (het verwijderen van hele neuronen of filters) via het leren van een maskering.

De methode bestaat uit de volgende stappen:

1. Setup:

   • Er is een vooringesteld model $f$ (encoder $E$ + classifier $C$) dat is getraind op een dataset $D_{train}$ waar de bias-labels ($b$) sterk gecorreleerd zijn met de doel-labels ($y$).
   • Het doel is een subnetwork te vinden dat goed presteert op een onbevooroordeelde testset ($D_{test}$) waarbij $y$ en $b$ niet gecorreleerd zijn.

2. Leren van een Pruning Mask:

   • In plaats van de gewichten van $f$ te wijzigen, worden hulpvariabelen (masks) $m_i$ geleerd voor elke structuurcomponent (bijv. filter of neuron) in de encoder.
   • Een gating-mechanisme bepaalt of een component behouden blijft ($m_i \geq 0$) of wordt verwijderd.
   • De parameters $m_i$ worden getraind via gradient descent met behulp van een "straight-through estimator" om de discrete stapfunctie hanteerbaar te maken.

3. Doelfunctie (Loss Function):
   De loss-functie $J$ bestaat uit twee delen:

   • Gebalanceerde Empirische Loss ($L_r$): De standaard cross-entropy loss wordt herschikt (reweighting) om de bijdrage van "bias-conflicting" samples (samples waar de bias niet overeenkomt met het doel) te versterken. Dit voorkomt dat het model alleen de dominante, vooringestelde patronen leert.
   • Regularisatie voor Bias-removal: Een term die de mutuele informatie $I(\hat{b}, b)$ minimaliseert. Hierbij wordt een hulp-classifier ($C_{aux}$) toegevoegd aan de bottleneck van het netwerk om de bias-label $b$ te voorspellen. Door de prestaties van deze hulp-classifier te minimaliseren, wordt de hoeveelheid bias-informatie die beschikbaar is voor de hoofdtaken-classifier beperkt.

4. Proces:

   • Het oorspronkelijke model blijft bevroren (frozen).
   • Alleen de mask-parameters en de hulp-classifier worden getraind.
   • De temperatuur $\tau$ in het gating-mechanisme wordt geleidelijk verlaagd (annealing) om de keuze van het subnetwork te versterken.
   • Optioneel kan het geëxtraheerde subnetwork nog worden gefinetuned op de oorspronkelijke dataset met de herschikte loss-functie voor nog betere prestaties.

Belangrijkste Bijdragen

• Paradigmaverschuiving: BISE toont aan dat onbevooroordeelde representaties vaak al "verborgen" zitten in vooringestelde modellen en dat deze kunnen worden geïsoleerd via architecturale ingrepen (pruning) in plaats van hertraining.
• Geen extra data nodig: De methode vereist geen toegang tot een onbevooroordeelde trainingsset, wat een grote praktische beperking van bestaande methoden opheft.
• Efficiëntie: Door het verwijderen van parameters (pruning) worden de modellen niet alleen eerlijker, maar ook kleiner en sneller (minder FLOPs) tijdens inferentie.
• Nieuwe loss-functie: Een combinatie van herschikte cross-entropy en mutual information regularisatie specifiek ontworpen voor het extraheren van bias-vrije subnetwerken.

Resultaten

De auteurs hebben BISE getest op vijf populaire benchmarks: BiasedMNIST, Corrupted-CIFAR10, CelebA, Multi-Color MNIST en CivilComments.

• Prestaties: BISE-extraherde subnetwerken presteren significant beter op onbevooroordeelde testsets dan de originele "vanilla" modellen.
  • Op BiasedMNIST (met een bias-ratio van 0.997) steeg de nauwkeurigheid van 66,1% (vanilla) naar 90,8% (BISE zonder finetuning) en 95,9% (met finetuning).
  • Op CelebA (haar kleur voorspellen met gender als bias) behaalde BISE 89,7% (zonder finetuning) en 91,8% (met finetuning), wat vergelijkbaar is of beter is dan de state-of-the-art methoden.
• Efficiëntie: De methoden leiden tot aanzienlijke vermindering van modelgrootte en rekentijd.
  • Bij Corrupted-CIFAR10 werd de sparsiteit (percentage verwijderde parameters) tot wel 92% bereikt, terwijl de rekentijd (MFLOPs) daalde van 37,1 naar 15,7.
• Vergelijking: BISE presteert beter dan bestaande methoden zoals LfF, EnD en Group DRO, en doet dit zonder de volledige modelarchitectuur opnieuw te trainen.
• Onbevooroordeeld scenario: Zelfs zonder expliciete bias-labels (unsupervised setting), waarbij de bias-labels worden geschat via een secundair model, behaalt BISE concurrerende resultaten.

Betekenis en Impact

Dit werk is significant omdat het een kosteneffectieve en schaalbare oplossing biedt voor algoritmische bias.

1. Praktische toepasbaarheid: Het elimineert de noodzaak van dure data-curatie of het opnieuw trainen van enorme modellen, wat het toepasbaar maakt voor bestaande systemen in de industrie.
2. Twee-vliegen-in-éenvlieg: Het lost niet alleen het ethische probleem van bias op, maar verbetert ook de computerefficiëntie door het creëren van compactere modellen.
3. Fundamenteel inzicht: Het bevestigt de hypothese dat "Bias In, Bias Out" niet noodzakelijk hoeft te zijn; zelfs in vooringestelde modellen kunnen er robuuste, eerlijke substructuren bestaan die alleen de juiste architecturale interventie nodig hebben om naar boven te komen.

Kortom, BISE biedt een krachtig alternatief voor traditionele debiasing door te focussen op het extraheren van eerlijkheid uit bestaande modellen in plaats van het herstellen ervan door middel van zware hertraining.