🤖 AI

Counting Worlds Branching Time Semantics for post-hoc Bias Mitigation in generative AI

Dit paper introduceert CTLF, een takvormige tijdslogica met tellende werelden die formele garanties biedt voor het verifiëren, voorspellen en corrigeren van bias in generatieve AI-outputs.

Oorspronkelijke auteurs: Alessandro G. Buda, Giuseppe Primiero, Leonardo Ceragioli, Melissa Antonelli

Gepubliceerd 2026-04-22

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Alessandro G. Buda, Giuseppe Primiero, Leonardo Ceragioli, Melissa Antonelli

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

De "Tijdmachine voor eerlijke AI": Hoe je vooroordelen in generatieve kunst kunt oplossen

Stel je voor dat je een kunstenaar hebt die heel snel plaatjes maakt, maar deze kunstenaar is opgeleid met een oude, scheefgetrokken fotoboek. In dat boek zijn er veel meer foto's van mannen dan van vrouwen. Als je deze kunstenaar vraagt: "Teken een ingenieur," zal hij bijna altijd een man tekenen, omdat hij denkt dat dat de enige echte ingenieur is. Dit noemen we bias (vooroordeel).

In dit paper presenteren de auteurs een slimme manier om dit probleem op te lossen, niet door de kunstenaar opnieuw te leren (wat duur en moeilijk is), maar door na te denken over wat er gebeurt terwijl hij tekent. Ze noemen hun methode CTLF.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Probleem: De Scheve Toren

Stel je voor dat je een toren bouwt met blokken. Elke keer als je een blok toevoegt, kies je uit twee kleuren: Blauw (Mannen) en Roze (Vrouwen). Omdat de kunstenaar scheef is opgeleid, zijn er veel meer blauwe blokken in de doos.
Als je nu een toren van 10 blokken bouwt, wil je dat er 5 blauw en 5 roze zijn. Maar omdat de kunstenaar blijft kiezen voor blauw, heb je na 4 blokken al 4 blauwe blokken. Je ziet al dat je de toren niet eerlijk kunt maken als je zo doorgaat.

2. De Oplossing: Een "Tijdmachine" met Telpunten

De auteurs hebben een speciale logica bedacht (CTLF) die werkt als een tijdmachine met een teller. In plaats van alleen naar het huidige plaatje te kijken, kijkt deze logica naar alle mogelijke toekomstige paden.

Ze gebruiken een concept dat ze "werelden" noemen.

De Wereld: Elke keer dat de AI een plaatje maakt, splitst de realiteit zich op in verschillende "werelden". In de ene wereld kiest de AI een man, in de andere een vrouw.
De Teller: De logica telt in elke wereld hoeveel mannen en vrouwen er tot nu toe zijn.

Met deze methode kunnen ze drie belangrijke vragen beantwoorden:

Vraag A: "Zitten we nog in de veilige zone?"

Stel, je hebt nu 4 plaatjes gemaakt: 3 mannen en 1 vrouw. De logica kijkt naar het verleden en zegt: "Oké, we zijn nog niet te ver weg van het doel van 50/50. We kunnen nog doorgaan."
Maar als je 4 mannen hebt, zegt de logica: "Stop! Je bent al te ver afgedwaald. Als je nu doorgaat, wordt het nooit meer eerlijk."

Vraag B: "Wat is de kans dat we het nog redden?"

De logica kijkt naar de toekomst. "Als we nu stoppen met het kiezen van mannen, hoeveel kans is er dan dat we in de toekomst toch nog een eerlijke toren bouwen?"
Het antwoord kan zijn: "Nog 50% kans." Dit helpt om te weten of het de moeite waard is om de AI nog even te laten werken.

Vraag C: "Hoeveel moeten we weggooien?"

Dit is het meest interessante deel. Stel, je hebt al 12 plaatjes gemaakt en er zijn er 9 mannen bij. De logica zegt: "Je hebt te veel mannen. Om een eerlijke set te krijgen, moet je 3 mannen weggooien en alleen de vrouwen en de resterende mannen houden."
Het geeft je precies aan welke plaatjes je moet verwijderen om de balans te herstellen. Het is alsof je een tuinman bent die zegt: "Verwijder deze drie grote struiken, dan groeit er weer een mooie, gebalanceerde haag."

3. Een Voorbeeld uit het Paper

In het paper gebruiken ze een voorbeeld met "Ingenieurs".

De training: De AI heeft geleerd dat ingenieurs 75% man en 25% vrouw zijn.
Het doel: We willen 50% man en 50% vrouw.
De situatie: De AI maakt 12 plaatjes. Er zijn 9 mannen en 3 vrouwen.
De actie: De logica berekent dat je maximaal 6 plaatjes kunt houden om eerlijk te blijven (3 mannen, 3 vrouwen). Omdat je nu 9 mannen hebt, moet je 3 mannen verwijderen. De logica helpt je precies te zien welke van die 9 je moet weggooien om de rest eerlijk te houden.

Waarom is dit belangrijk?

Vroeger moest je de hele AI opnieuw trainen om vooroordelen te verwijderen, wat net als het opnieuw leren van een taal is: heel veel werk.
Met deze methode kun je terugkijkend (post-hoc) ingrijpen. Het is alsof je een bewaker hebt die naast de AI staat, die telt, berekent en zegt: "Stop, gooi dit ene plaatje weg, en ga dan verder." Zo krijg je eerlijke resultaten zonder de machine zelf te hoeven herschrijven.

Samenvatting

De auteurs hebben een wiskundig gereedschap bedacht dat als een slimme teller werkt in een wereld van mogelijke toekomstjes. Het helpt ons om:

Te zien of we nog op het goede spoor zitten.
Te voorspellen of we het nog kunnen redden.
Te weten precies hoeveel en welke "foutieve" plaatjes we moeten verwijderen om eerlijkheid te herstellen.

Het is een manier om AI niet alleen slim te maken, maar ook verantwoordelijk en eerlijk te houden, terwijl hij aan het werk is.

Probleemstelling

Generatieve AI-systemen hebben de neiging om biases uit hun trainingsdata te versterken (bias amplification), wat vaak leidt tot ongewenste uitkomsten, zoals een onevenwichtige geslachtsverdeling in gegenereerde afbeeldingen. Bestaande mitigatiestrategieën vinden voornamelijk plaats op het moment van inferentie (inference-time) of na de generatie (post-hoc). Deze methoden zijn echter grotendeels empirisch van aard en missen formele garanties.
Er is een behoefte aan een formeel raamwerk dat:

Kan redeneren over een reeks gegenereerde outputs om te bepalen of de huidige verdeling binnen een acceptabele drempel ligt.
Kan voorspellen of toekomstige outputs binnen deze grenzen zullen blijven.
Kan bepalen hoeveel outputs er moeten worden verwijderd om de verdeling weer eerlijk te maken, zonder het model opnieuw te hoeven trainen (wat kostbaar is).

Methodologie: CTLF en Tellende Werelden Semantiek

De auteurs introduceren CTLF (Computational Tree Logic with Counting semantics), een tak van de tijdslogica die is ontworpen om bias in series van generatieve AI-outputs te redeneren.

Kernconcepten:

Takende Tijd (Branching Time): De logica modelleert het generatieproces als een boomstructuur van mogelijke wereldjes (worlds), waarbij elke wereld een mogelijke output op een bepaald tijdstip vertegenwoordigt.
Tellende Werelden Semantiek (Counting Worlds Semantics): In plaats van alleen te kijken naar de huidige staat, telt de logica het aantal wereldjes binnen een pad of subboom waarin een bepaalde eigenschap (bijv. "man" of "vrouw") waar is. Dit maakt het mogelijk om waarschijnlijkheidsverdelingen formeel te verifiëren.
Modale Operatoren: De logica introduceert specifieke operatoren om verschillende aspecten van bias te analyseren:
- $\square_q \phi$ (Huidige staat): Betekent dat $\phi$ op het huidige punt in de reeks minstens een fractie $q$ van de tijd is opgetreden.
- $\blacksquare_q \phi$ (Potentieel): Betekent dat er minstens één geldige reeks (binnen een gedefinieerde verdeling $\Phi_\Sigma$ ) bestaat waarin $\phi$ minstens een fractie $q$ voorkomt.
- $\bigcirc_q \phi$ (Toekomstige reeks): Betekent dat er een volledige reeks bestaat waarin $\phi$ minstens een fractie $q$ van de totale lengte voorkomt.
- $\rhd_q \phi$ (Volgende stap): Geeft de kans aan dat de volgende output $\phi$ is, gegeven de huidige staat en de verwachte verdeling.
- Path-operatoren ( $\triangledown_q, \dagger_q$ ): Redeneren over volledige paden en de waarschijnlijkheid dat een huidige reeks kan worden voltooid binnen de gewenste verdeling.

Formeel Model:
Het model $M$ bestaat uit een verzameling wereldjes $W$ die verbonden zijn via twee relaties:

$R_e$ : Een "achterwaartse" relatie (kind-ouder) die de historische reeks van gebeurtenissen vastlegt.
$R_f$ : Een "voorwaartse" relatie (ouder-kind) die alle mogelijke toekomstige extensies van een reeks definieert.
Een verdeling $\Sigma$ definieert welke paden (completies) acceptabel zijn (bijv. een pad met 50% man en 50% vrouw).

Belangrijkste Bijdragen

Formele Semantiek voor Bias: De ontwikkeling van CTLF als een alternatief voor bestaande lineaire tijdslogica (LTLF), specifiek gericht op het tellen van voorkomen van attributen in een takende tijdstructuur.
Post-hoc Mitigatie Strategie: Een methode om, op basis van de logica, te bepalen hoeveel en welke outputs er moeten worden verwijderd om de verdeling te herstellen. Als de logica aangeeft dat de huidige reeks de quota voor een bepaald attribuut heeft overschreden, kunnen alle daaropvolgende outputs die dit attribuut bevatten worden gefilterd.
Voorspellende Analyse: Het vermogen om vroeg in het generatieproces te voorspellen of een reeks onherroepelijk zal afwijken van de gewenste verdeling, waardoor schadelijke generaties kunnen worden gestopt of gecorrigeerd voordat ze voltooid zijn.

Resultaten en Voorbeelden

De auteurs illustreren het kader met een voorbeeld van het genereren van afbeeldingen van "ingenieurs" met een onbalans in het trainingsdataset (75% man, 25% vrouw).

Scenario 1 (Binnen grenzen): Op stap 4 van een reeks is de verdeling nog evenwichtig. De logica bevestigt dit via operatoren zoals $\square_{1/2}$ .
Scenario 2 (Voorspelling): De logica berekent de kans dat de reeks op stap 7 nog steeds eerlijk blijft. Het blijkt dat elke afwijking in stap 5 of 6 de kans op een eerlijke voltooiing naar 0 drukt.
Scenario 3 (Mitigatie): In een reeks van 12 outputs met een verhouding van 3:1 (man:vrouw) wordt vastgesteld dat de quota voor mannen is overschreden. De logica toont aan dat een eerlijke subset van 6 outputs (3 man, 3 vrouw) nog steeds haalbaar is door alle daaropvolgende "mannelijke" outputs te verwijderen. Dit resulteert in een gefilterde subset $O'$ die voldoet aan de eisen.

Betekenis en Toekomstperspectief

Formele Garantieën: CTLF biedt een wiskundig onderbouwde manier om eerlijkheid te verifiëren, in plaats van te vertrouwen op empirische tests.
Toepasbaarheid: Het raamwerk is ontworpen om te werken met bestaande modellen zonder hertraining, wat het schaalbaar maakt voor grote modellen.
Toekomstig Werk: De auteurs plannen de implementatie van deze logica in de MIRAI Toolbox. Dit zal een tool opleveren die een stream van AI-outputs, een doelverdeling en een eerlijkheidsthrshold als input neemt en ofwel een certificaat van naleving geeft, of een mitigatieplan (welke outputs te verwijderen).
Uitbreidingen: Er wordt voorgesteld om de logica uit te breiden met gewogen overgangen (voor niet-uniforme kansen) en adaptieve modellen waarbij de verdeling tijdens de generatie wordt bijgewerkt op basis van parametrische Markov-ketens.

Kortom, dit artikel biedt een fundamentele stap richting formele verificatie en controle van bias in generatieve AI, door een brug te slaan tussen logische theorie en praktische post-hoc mitigatie.