Technische Samenvatting: Detectie van Causale Bias in Generatieve Kunstmatige Intelligentie

Probleemstelling

Naarmate geautomatiseerde systemen op basis van kunstmatige intelligentie (KI) vaker worden ingezet in hoog-risicodomeinen (bijvoorbeeld werving en selectie, kredietverlening, gezondheidszorg), zijn de zorgen over eerlijkheid en de voortzetting van demografische dispariteiten toegenomen. Hoewel eerdere werken op het gebied van causale eerlijkheid een principieel raamwerk hebben vastgesteld voor de standaard machine learning (ML)-setting—waarbij een besluitnemer één voorspellende functie $f_{\hat{Y}}$ construeert terwijl hij causale mechanismen voor alle andere covariaten overneemt uit de realiteit—is dit raamwerk ontoereikend voor Generatieve AI.

Generatieve modellen verschillen fundamenteel van standaard ML-voorspellers:

1. Constructie van Mechanismen: In tegenstelling tot standaard ML, dat één mapping leert van covariaten naar een uitkomst, construeren generatieve modellen impliciet hun eigen overtuigingen over alle causale mechanismen (inclusief die voor covariaten $X, Z, W$), niet alleen over de uitkomst $Y$.
2. Data-Granulariteit: Generatieve modellen opereren vaak op lagere niveaus van modaliteiten (tekst, afbeeldingen) in plaats van gestructureerde tabulaire data, wat vereist dat relaties tussen variabelen worden afgeleid die aanzienlijk kunnen afwijken van realistische correlaties.
3. Verspreiding van Bias: Bestaande methoden onderscheiden niet of waargenomen dispariteiten in generatieve outputs voortkomen uit het geleerde uitkomstmechanisme van het model, de geleerde covariatenmechanismen, of de interactie tussen deze twee.

Het artikel adresseert de behoefte aan een nieuwe methodologie om causale bias in generatieve AI te detecteren, kwantificeren en decomponeren, met name door te analyseren hoe generatieve modellen realistische dispariteiten veranderen via hun interne causale mechanismen.

Methodologie

De auteurs stellen een unificerend theoretisch raamwerk voor dat het Standaard Eerlijkheidsmodel (SFM) uitbreidt naar de generatieve setting met behulp van Structurele Causale Modellen (SCM's).

1. Het S-Standaard Eerlijkheidsmodel (S-SFM)

De kerninnovatie is de introductie van een selectienode $S$ die de bron van het data-generatiemechanisme aangeeft:

• $S = rw$ (of $0$): Het realiteitsmechanisme ($f^{rw}$).
• $S = gm$ (of $1$): Het mechanisme van het generatieve model ($f^{gm}$).

In dit raamwerk wijst de selectienode $S$ naar alle variabelen ($X, Z, W, Y$), wat een onafhankelijke vervanging van mechanismen mogelijk maakt. Dit staat in contrast met het standaard SFM, waarbij $S$ doorgaans alleen het uitkomstmechanisme beïnvloedt. Het model definieert potentiële uitkomsten $Y^{s_y}_{x_y, W^{s_w}_{x_w} | X=x_z, S=s_z}$, waarbij superscripten de omgeving aanduiden (realiteit of model) waaruit het specifieke mechanisme wordt gehaald, en subscripten de waarden van variabelen langs specifieke causale paden aanduiden.

2. S-Modified Causale Effecten

De auteurs definiëren S-gemodificeerde x-specifieke effecten (Direct, Indirect en Spurious) die rekening houden met de bron van het mechanisme. Bijvoorbeeld, het S-gemodificeerde directe effect is:
$$x\text{-}DE^{s_z, s_w, s_y}_{x_0, x_1}(y | x) = E[Y^{s_y}_{x_1, W^{s_w}_{x_0}} | X=x, S=s_z] - E[Y^{s_y}_{x_0, W^{s_w}_{x_0}} | X=x, S=s_z]$$
Dit maakt het mogelijk te isoleren hoe het directe effect verandert wanneer specifieke mechanismen (bijvoorbeeld $f_Y$, $f_W$, of $f_{X,Z}$) worden vervangen van de realiteit naar het generatieve model.

3. Decompositie van Dispariteitsverschillen

Het artikel leidt een Stelling 1 af die het verschil in totale variatie (TV) tussen de realiteit en het generatieve model ($\Delta TV$) decomponeert in bijdragen van veranderingen in directe, indirecte en spurious paden. Cruciaal wordt elke padbijdrage verder opgesplitst in drie termen die de stapsgewijze vervanging van mechanismen vertegenwoordigen:

1. T1: Vervanging van alleen het uitkomstmechanisme ($f_Y$).
2. T2: Vervanging van het mediatormechanisme ($f_W$), met $f_Y$ al vervangen.
3. T3: Vervanging van het covariatenmechanisme ($f_{X,Z}$), met $f_W$ en $f_Y$ al vervangen.

Deze granulaire decompositie stelt onderzoekers in staat om precies te identificeren welk deel van het "overtuigingsstelsel" van het generatieve model de bias aanstuurt.

4. Identificatie en Schatting

Het artikel stelt identificatievoorwaarden vast (Propositie 3) die aantonen dat deze potentiële uitkomsten kunnen worden geschat met behulp van steekproeven uit gemengde omgevingen. De schattingsstrategie omvat:

• Generator ($\Gamma$): Een LLM die wordt geprompt om verhalen te genereren op basis van specifieke voorwaarden (bijvoorbeeld "Schrijf een verhaal over een persoon van [Ras] van [Geslacht] en leeftijd [Leeftijd]...").
• Annotator ($A$): Een aparte LLM die gestructureerde waarden (bijvoorbeeld inkomen, opleiding, uitkomst) uit de gegenereerde verhalen extrahert.
• Datasets: Constructie van vier specifieke datasets ($D_{s_0}$, $D_{s_0,s_0,s_1}$, $D_{s_0,s_1,s_1}$, $D_{s_1}$) die progressieve vervanging van mechanismen vertegenwoordigen, waardoor de berekening van de decompositietermen mogelijk wordt.

Belangrijkste Bijdragen

1. Formalisatie van Causale Eerlijkheid in Generatieve AI: Het artikel verenigt de standaard ML-eerlijkheidsetting en de generatieve AI-setting onder één theoretisch paraplu (S-SFM), waarbij expliciet de constructie van eigen causale mechanismen door het generatieve model wordt gemodelleerd.
2. Nieuwe Causale Decompositieresultaten: Het introduceert een nieuwe decompositie (Stelling 1) die eerlijkheidsimpacten kwantificeert langs twee dimensies:
   • Verschillende causale paden (Direct, Indirect, Spurious).
   • Het specifieke mechanisme dat wordt vervangen (Realiteit versus Model).
3. Identificatie en Schatting: Het biedt identificatievoorwaarden en efficiënte schatters voor deze causale grootheden, en demonstreert hoe de benodigde counterfactuele data kan worden gegenereerd met LLM's.
4. Empirische Toepassing: De methodologie wordt toegepast om raciale en genderbias te analyseren in 10 grote taalmodellen (LLM's) over drie datasets:
   • NSDUH: Raciale bias in drugsgebruik (marihuana).
   • BRFSS: Raciale bias in de last van chronische ziekten (diabetes).
   • ACS: Genderbias in inkomensniveaus.

Resultaten

De auteurs analyseerden 10 instructie-gefine-tuned open-weight modellen (waaronder de Llama 3, Qwen, Gemma, DeepSeek en Phi families) over de drie datasets.

• Bias-Signaturen: De studie produceerde een 27-dimensionale "bias-signatuur" voor elk model. Hiërarchische clustering onthulde dat bias-ähnelijkheid niet strikt correleert met modelfamilie of parameterschaal; verschillende families vertoonden vaak dichter bij elkaar liggende bias-signaturen dan broers en zussen binnen dezelfde familie.
• Versterking en Omkering:
  • Omkering: Modellen draaiden vaak het teken van realistische dispariteiten om. Bijvoorbeeld, in de NSDUH-dataset toonden realistische data aan dat minderheden marihuana op een lagere frequentie gebruiken (gecontroleerd voor covariaten), maar modellen zoals Gemma 3 27B draaiden dit om tot een hogere frequentie.
  • Versterking: In de BRFSS-dataset versterkten modellen vaak het directe effect van ras op het risico op diabetes.
  • Dempen: Sommige modellen dempten spurious voordelen (bijvoorbeeld de leeftijdsgerelateerde bescherming tegen diabetes voor minderheden in BRFSS).
• Mechanisme-Attributie: De decompositie onthulde dat bias niet monolithisch is.
  • In het geval van Gemma 3 27B (NSDUH) werd de omkering van het directe effect voornamelijk gedreven door de vervanging van het mediatormechanisme ($f_W$), dat een gestereotypeerde verdeling van opleiding/inkomen voor minderheden codeerde, en niet alleen door het uitkomstmechanisme.
  • In het geval van Qwen 3.5 27B (BRFSS) werd de omkering van het directe effect gedomineerd door het uitkomstmechanisme ($f_Y$), terwijl de omkering van het indirecte effect werd gedreven door het mediator- ($f_W$) en covariaten- ($f_{X,Z}$) mechanisme.

Betekenis en Claims

Het artikel claimt dat de primaire betekenis ligt in het bieden van een granulair, causaal perspectief voor het begrijpen van bias in generatieve AI, verdergaand dan geaggregeerde statistische dispariteiten.

• Voorbij Counterfactuele Eerlijkheid: In tegenstelling tot eerdere werken die zich uitsluitend richten op counterfactuele eerlijkheid in classificatie, modelleert dit raamwerk het latente causale proces en kwantificeert het welke mechanismen (uitkomst, mediator of covariaten-generatie) bijdragen aan dispariteiten.
• Generalisatie: Het raamwerk generaliseert bestaande literatuur over causale eerlijkheid voor standaard ML (waarbij alleen het uitkomstmechanisme wordt vervangen) strikt naar de complexere generatieve setting waar alle mechanismen potentieel worden gewijzigd.
• Diagnostische Nut: De decompositie stelt praktici in staat te diagnosticeren of de bias van een model voortkomt uit diens begrip van de uitkomst (bijvoorbeeld "minderheden zijn waarschijnlijker drugs te gebruiken") of uit diens begrip van de structuur van de wereld (bijvoorbeeld "minderheden hebben een lager inkomen/opleiding"), wat gerichte inzichten biedt voor mitigatie.

De auteurs blijven bescheiden wat betreft beperkingen, en merken op dat het raamwerk uitgaat van de mogelijkheid om modellen te bevragen voor willekeurige conditionals (wat moeilijk kan zijn in visuele modellen), menselijke uitvraging van causale aannames vereist (S-SFM specificatie), en beperkt was tot open-weight modellen vanwege kostenbeperkingen voor gesloten modellen. Zij merken ook op dat het raamwerk momenteel geen inferenties dekt die in omgekeerde causale volgorde worden gemaakt (bijvoorbeeld het afleiden van ras uit salaris).