Tuning Derivatives for Causal Fairness in Machine Learning

Technische Samenvatting: Het Afstemmen van Afgeleiden voor Causale Rechtvaardigheid in Machine Learning

Probleemstelling
Kunstmatige Intelligentie-systemen erven vaak maatschappelijke vooroordelen over beschermde attributen zoals ras, geslacht en leeftijd. Klassieke rechtvaardigheidsmaten zoals Statistische Pariteit (SP), die voorspellingen onafhankelijk eisen van beschermde attributen, zijn vaak te restrictief. Dit geldt vooral wanneer beschermde attributen "zakelijke noodzaak" of "oplossende variabelen" beïnvloeden (bijvoorbeeld eerdere misdrijven bij risicobeoordeling voor recidive) die legitiem vereist zijn voor voorspelling. Recente causale formuleringen lossen dit op door onderscheid te maken tussen "niet-toegestane" paden (directe effecten van beschermde attributen) en "toegestane" paden (indirecte effecten via zakelijke noodzaak), waarbij vaak Predictive Parity (PP) wordt opgenomen om te waarborgen dat legitieme invloeden behouden blijven. Echter, bestaande pad-gebaseerde definities die vertrouwen op causale contrasten, zijn primair ontworpen voor categorische attributen. Wanneer deze methoden worden toegepast op continue beschermde attributen (bijvoorbeeld leeftijd), worden ze onpraktisch vanwege de noodzaak om contrasten te evalueren op oneindig veel punten.

Methodologie
De auteurs stellen een kader voor causale rechtvaardigheid binnen Structurele Causale Modellen (SCM's) voor, specifiek toegesneden op continue beschermde attributen.

1. Op Afgeleiden Gebaseerde Definities:

   • Statistische Pariteit in Afgeleiden (SPD): In plaats van contrasten te gebruiken, definiëren de auteurs SP langs een pad $\pi$ als het product van partiële afgeleiden van de structurele mechanismen langs dat pad gelijk aan nul. Dit waarborgt dat de voorspeller constant is ten opzichte van het beschermde attribuut langs niet-toegestane paden.
   • Predictive Parity in Afgeleiden (PPD): PP wordt gedefinieerd door de partiële afgeleiden van de voorspeller met betrekking tot variabelen langs toegestane paden gelijk te stellen aan de partiële afgeleiden van de werkelijke uitkomstvariabele in het Data-Generatieproces (DGP). Dit waarborgt dat de voorspeller de legitieme invloed van zakelijke noodzaak nabootst.

2. Bestaansvoorwaarden:
   Het artikel stelt een noodzakelijke en voldoende voorwaarde vast voor het bestaan van een voorspeller die tegelijkertijd voldoet aan SPD en PPD. Voor een direct niet-toegestaan pad ($X \to Y$) en een toegestaan pad ($W \to Y$) bestaat een eerlijke voorspeller dan en slechts dan als de gemengde partiële afgeleide van de verwachte uitkomst nul is: $\frac{\partial^2}{\partial w \partial x} E[Y | P_A^Y = p] = 0$. Als deze voorwaarde niet geldt, is een afweging tussen SPD en PPD onvermijdelijk.

3. Eerlijk Afstemalgoritme:
   Om dergelijke voorspellers te construeren, stellen de auteurs een "eerlijk afstem"-algoritme voor voor neurale netwerken:

   • Stap 1: Pas een onbeperkte voorspeller ($\hat{Y}_{\theta_U}$) aan om voorspellingsverlies te minimaliseren (bijvoorbeeld MSE).
   • Stap 2: Initialiseer een eerlijke voorspeller met de parameters van de onbeperkte voorspeller.
   • Stap 3: Optimaliseer een samengesteld verliesfunctie ($L_{FT}$) bestaande uit:
     • Voorspellingsverlies (MSE tussen de afgestemde voorspeller en de onbeperkte voorspeller).
     • SPD-verlies (L1-norm van partiële afgeleiden langs niet-toegestane paden).
     • PPD-verlies (L1-norm van het verschil tussen de afgeleiden van de voorspeller en de afgeleiden van de onbeperkte voorspeller langs toegestane paden).
   • Hyperparameters $\lambda_{SPD}$ en $\lambda_{PPD}$ stellen gebruikers in staat om één rechtvaardigheidscriterium boven het ander te prioriteren wanneer de compatibiliteitsvoorwaarde niet wordt voldaan.

Belangrijkste Bijdragen

• Formalisatie: Het artikel formaliseert SP en PP met behulp van pad-specifieke partiële afgeleiden, waardoor definities voor causale rechtvaardigheid toepasbaar worden op continue beschermde attributen zonder de rekenkundige last van het evalueren van oneindige contrasten.
• Theoretische Karakterisering: Het leidt voorwaarden af waaronder deze op afgeleiden gebaseerde definities overeenkomen met eerdere op contrasten gebaseerde causale definities, en stelt het compatibiliteitscriterium (Stelling 1) vast voor het gelijktijdige bestaan van eerlijke voorspellers.
• Algoritmische Oplossing: Het introduceert een praktisch afstemalgoritme dat eerlijke voorspellers construeert wanneer aan het compatibiliteitscriterium wordt voldaan, en een flexibel afwegingsmechanisme biedt wanneer dit niet het geval is.
• Empirische Validatie: De methode wordt geëvalueerd op gesimuleerde data (lineaire en multiplicatieve DGPs) en het real-world COMPAS-dataset, waarbij de prestaties worden vergeleken met methoden die zich uitsluitend richten op SP (SPT) en marginalisatieschema's.

Resultaten

• Gesimuleerde Data: In lineaire situaties waar SPD en PPD compatibel zijn, minimaliseert het eerlijk afstemmen (FT) algoritme succesvol beide verliezen tegelijkertijd. In niet-lineaire (multiplicatieve) situaties waar ze incompatibel zijn, demonstreert het algoritme de verwachte afweging: het verhogen van beperkingen op de ene maat verslechtert de andere. De FT-methode presteert beter dan marginalisatie en SPT-only benaderingen in het behouden van voorspellende prestaties terwijl rechtvaardigheidsbeperkingen worden nageleefd, met name wanneer PPD wordt overwogen.
• COMPAS Dataset: Toegepast op voorspelling van recidive, bereikte het FT-algoritme (specifiek met gebalanceerde gewichten) een superieure compromis tussen SPD en PPD vergeleken met SPT en Marginalize-methoden. Hoewel alle beperkte modellen een verminderde voorspellende prestatie vertoonden vergeleken met de onbeperkte baseline, behield FT 10 een hogere nauwkeurigheid en F1-scores terwijl het PPD-verlies aanzienlijk werd verminderd.
• Afgeleide versus Contrast: Wanneer toegepast op binaire kenmerken in het COMPAS-dataset, resulteerde het minimaliseren van op afgeleiden gebaseerde verliezen (SPD/PPD) over het algemeen in verminderde op contrasten gebaseerde verliezen (CSP/CPP), hoewel afwijkingen werden waargenomen in sommige scenario's met hoge beperkingen.

Betekenis en Claims
Het artikel claimt dat zijn op afgeleiden gebaseerde kader een praktische en theoretisch onderbouwde oplossing biedt voor causale rechtvaardigheid in continue domeinen, een gat dat door bestaande op contrasten gebaseerde methoden is achtergelaten. Het betoogt dat door expliciet de afweging tussen statistische en predictieve pariteit te modelleren via partiële afgeleiden, praktici voorspellers kunnen construeren die zakelijke noodzaak respecteren terwijl discriminatie wordt tegengegaan. De auteurs benadrukken dat hun methode geen aannames vereist over de structurele vergelijkingen van het DGP, slechts een causaal diagram, waardoor het toepasbaar is in real-world scenario's. Het werk concludeert dat hoewel afgeleide-rechtvaardigheid niet altijd perfect overeenkomt met contrast-rechtvaardigheid voor binaire attributen, het een robuuste en flexibele aanpak biedt voor continue attributen en een levensvatbaar pad voor het hanteren van de spanning tussen statistische onafhankelijkheid en predictieve bruikbaarheid.