💻 computer science

KG-FairDiff: Knowledge Graph-Guided Prompt Refinement for Demographically Fair Text-to-Image Generation

KG-FairDiff is een model-agnostisch framework tijdens de inferentie dat een kennisgraaf en een gesloten optimalisatieproces gebruikt om tekst-naar-afbeelding-prompts te verfijnen, waardoor demografische en culturele vooroordelen effectief worden verminderd terwijl de semantische getrouwheid behouden blijft zonder dat kostbare modelretraining vereist is.

Oorspronkelijke auteurs: Farbod Davoodi, Seyed Reza Tavakoli Shiyadeh, Pooria Safaei, Sana Harighi, Parsa Gholami, Amirali Amini, Kimia Vanaei, Emad Firoozi, Parham Abed Azad, Babak Khalaj, Siavash Ahmadi, Amir Hossein Payber

Gepubliceerd 2026-06-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Farbod Davoodi, Seyed Reza Tavakoli Shiyadeh, Pooria Safaei, Sana Harighi, Parsa Gholami, Amirali Amini, Kimia Vanaei, Emad Firoozi, Parham Abed Azad, Babak Khalaj, Siavash Ahmadi, Amir Hossein Payberah, Mohammad Hossein Rohban, Soheil Kolouri, Ali Diba

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een magische camera hebt die elke zin die je schrijft in een plaatje kan veranderen. Je typt "een dokter," en de camera maakt een foto. Maar hier is de adder onder het gras: deze camera is getraind op miljoenen oude foto's van het internet. Daardoor heeft hij een slechte gewoonte ontwikkeld. Wanneer je vraagt om een "dokter," laat hij bijna altijd een oudere witte man zien. Wanneer je vraagt om een "verpleegkundige," laat hij een jonge vrouw zien. Het is alsof de camera vastzit in een tijdsprong, waarbij hij de wereld alleen ziet door een zeer nauwe, stereotiepe lens.

Dit artikel introduceert een nieuwe tool genaamd KG-FairDiff om deze camera te repareren zonder de camera zelf opnieuw te hoeven bouwen.

Het Probleem: De "Standaardinstellingen" van de Camera

Beschouw deze tekst-naar-beeld systemen als chefs die een enorme kookboek uit het hoofd hebben geleerd. Als je vraagt om "CEO," halen ze automatisch een plaatje van een man in een pak tevoorschijn, omdat dat is wat ze het vaakst hebben gezien in hun trainingsdata. Ze proberen niet gemeen te zijn; ze volgen gewoon de meest voorkomende patronen die ze kennen. Dit leidt tot een wereld waarin bepaalde groepen mensen (zoals vrouwen, mensen van kleur of ouderen) zelden worden gezien in machtige rollen, of op een grappige, overdreven manier worden afgebeeld.

De Oplossing: De "Slimme Editor"

In plaats van te proberen de chef te ontslaan en een nieuwe aan te nemen (wat duur en onmogelijk is voor veel gesloten camera's), fungeert KG-FairDiff als een slimme editor die tussen jou en de camera in staat.

Zo werkt de editor, stap voor stap:

De Kennisbibliotheek (De "Feitencontroleur"):
De editor draagt een speciale bibliotheek bij zich met ongeveer 1.200 feiten (een Knowledge Graph). Deze feiten zijn als kleine kaartjes waarop staat: "Dokters kunnen vrouwen zijn," "Verpleegkundigen kunnen mannen zijn," of "Traditionele kleding in deze cultuur ziet er zo uit." Er staan ook kaartjes op met: "Dit is een stereotype dat we moeten vermijden."
Het Herschrijven (De "Suggestie"):
Wanneer je "een dokter" typt, stuurt de editor dat niet zomaar naar de camera. Eerst kijkt hij in zijn bibliotheek. Hij ziet dat "dokter" vaak gestereotypeerd wordt. Vervolgens vraagt hij een superintelligente AI (een LLM) om je zin te herschrijven.
- Jouw input: "Een dokter."
- Suggestie van de editor: "Een diverse groep dokters, inclusief vrouwen en mensen met verschillende achtergronden, werkend in een modern ziekenhuis."
  De editor zorgt ervoor dat de nieuwe zin nog steeds klinkt als wat je wilde (semantische getrouwheid), maar voegt de ontbrekende diversiteit toe.
De Poortwachter (De "Validator"):
Voordat de nieuwe zin naar de camera wordt gestuurd, controleert de editor twee dingen:
- Hebben we de bias gecorrigeerd? (Moedigt de nieuwe zin een diverser beeld aan?)
- Hebben we de betekenis te veel veranderd? (Gaat het nog steeds over een dokter?)
  Als het antwoord op beide vragen "Ja" is, stuurt de editor het door. Als dat niet zo is, probeert hij het opnieuw, als een lus totdat het goed is.

Waarom dit een Groot Ding is

Normaal gesproken moet je, om een bevooroordeelde camera te repareren, de camera uit elkaar te halen, hem opnieuw te trainen op nieuwe data en hopen dat hij beter leert. Dit is moeilijk, duur en vaak onmogelijk omdat veel camera's "black boxes" zijn (je kunt niet in de camera kijken).

KG-FairDiff is anders omdat:

Het een plug-and-play oplossing is: Het werkt met elke camera, of het nu een gratis of een betaalde, geheime camera is.
Het de camera niet kapot maakt: Het past alleen de instructies (prompts) aan die je eraan geeft.
Het gebaseerd is op feiten: Het raadt niet zomaar wat; het gebruikt een gestructureerde lijst met feiten om de veranderingen te sturen.

De Resultaten

De onderzoekers hebben deze "Slimme Editor" getest op acht verschillende populaire beeldgeneratoren. Ze ontdekten dat:

Het het aantal keren dat de camera standaard naar stereotypen greep (zoals alleen mannen tonen als CEO) aanzienlijk verminderde.
Het de variëteit van getoonde mensen vergrootte (meer vrouwen, mensen van kleur en verschillende leeftijden).
Dit gebeurde zonder dat de plaatjes er vreemd uitzagen of de oorspronkelijke bedoeling van de gebruiker veranderden.

De Beperkingen (De "Kleine Lettertjes")

De auteurs zijn eerlijk over waar het hulpmiddel tegen problemen aan kan lopen:

De botsing met de "Veiligheidsfilter": Sommige camera's hebben hun eigen strikte veiligheidsregels. Soms kan de suggestie van de editor om diversiteit toe te voegen botsen met de interne regels van de camera, waardoor de afbeelding mislukt of er vreemd uitziet.
De "Circulaire" Editor: Dezelfde AI-modellen worden gebruikt om zowel de nieuwe zin te schrijven als te controleren of deze goed is. Het is alsof een leerling zijn eigen huiswerk nakijkt; het werkt meestal wel, maar het is niet perfect.
Culturele Gaten: Hoewel de tool probeert niet-Westerse culturen op te nemen, is de bibliotheek met feiten nog niet perfect. Het kan specifieke culturele details missen.

In een Notendop

KG-FairDiff is als een eerlijkheidsfilter voor je verbeelding. Het verandert de camera niet; het helpt je alleen om om plaatjes te vragen op een manier die ervoor zorgt dat de camera de hele wereld ziet, en niet alleen een kleine, bevooroordeelde uitsnede ervan. Het is een praktische, direct inzetbare manier om AI-gegenereerde afbeeldingen representatiever te maken voor het echte leven.

Technische Samenvatting: KG-FairDiff

Probleemstelling
Text-to-Image (TTI) systemen zijn cruciaal geworden voor de infrastructuur van journalistiek, onderwijs en reclame. Deze modellen erven echter demografische en culturele stereotypen uit hun trainingsdata, waardoor vrouwen, mensen van kleur, ouderen en niet-Westerse culturen systematisch ondervertegenwoordigd of gecaricatureerd worden. Bestaande mitigatiestrategieën kampen met aanzienlijke beperkingen: het herbalanceren van datasets en latent-ruimte regularisatie vereisen toegang tot trainingsdata of de interne werking van het model (onhaalbaar voor closed-source backbones), terwijl lichtere methoden op prompt-niveau vaak vertrouwen op vaste demografische sjablonen die de culturele context negeren, wat resulteert in oppervlakkige of tokenistische outputs.

Methodologie
De auteurs stellen KG-FairDiff voor, een model-agnostisch framework voor inferentie-tijd dat eerlijkheid-bewuste prompt-verfijning behandelt als een geoptimaliseerd probleem onder restricties. Het systeem werkt als een closed-loop pipeline zonder de onderliggende generator aan te passen:

Constructie van de Knowledge Graph (KG): Het framework maakt gebruik van een handmatig samengestelde KG met ongeveer 1.200 triples. Deze triples zijn afkomstig uit de McGillNLP Bias Dataset en CultureBank en dekken drie categorieën: stereotype associaties (om tegen te gaan), tegen-stereotypen (om te bevestigen) en culturele gronding (niet-Westerse concepten, kledij en praktijken).
Retrieval en Rewriting: Tijdens de inferentie haalt het systeem de top- $k$ relevante triples uit de KG op basis van de initiële prompt van de gebruiker. Een LLM rewriter (GPT-4o) gebruikt deze gestructureerde context om verfijnde prompts voor te stellen.
Closed-Loop Validatie: Een validator (eveneens GPT-4o) evalueert de verfijnde prompt aan de hand van twee criteria:
- Verbetering van Eerlijkheid: De prompt moet de divergentie-gebaseerde fairness loss verminderen (gemeten via KL-divergentie ten opzichte van een uniforme doelverdeling).
- Semantische Getrouwheid: De verfijnde prompt moet een cosinus-gelijkenis boven een drempelwaarde ( $\tau$ ) behouden met de oorspronkelijke intentie van de gebruiker om semantische drift te voorkomen.
Optimalisatieformule: Het proces wordt geformaliseerd als het minimaliseren van een gewogen som van de fairness loss en een stijl-preserveringsregularisator, onderhevig aan de semantische getrouwheidsrestrictie. De auteurs bewijzen een eindige terminatie-bound voor de verfijningslus onder een monotone verbeteringsaanname.

Belangrijkste Bijdragen

Algoritmische Formulering: Het artikel formaliseert eerlijkheid-bewuste prompt-verfijning als een geoptimaliseerd probleem onder restricties met expliciete termen voor eerlijkheid, semantische getrouwheid en stijl-preservering, en biedt een iteratief algoritme met een theoretische terminatie-bound.
Herbruikbare Knowledge Graph: De auteurs construeren en publiceren een gecureerde KG van ~1.200 triples die stereotypen, tegen-stereotypen en culturele gronding beslaat, dubbel geannoteerd voor feitelijke nauwkeurigheid en culturele sensitiviteit.
Theoretisch Onderbouwd Evaluatiepakket: Een nieuw evaluatieframework wordt geïntroduceerd dat standaard bias-metrieken (Bias-P, Bias-W) koppelt aan divergentie van doelverdelingen en de relatie tussen Entropy-gebaseerde maten (ENS) en KL-divergentie legt, waarbij Wasserstein-alignment en CLIP-gelijkenis worden gebruikt om semantische preservering te beoordelen.
Omvattende Audit: Het framework wordt geëvalueerd tegen acht breed ingezette backbone generators (waaronder GPT-Image-1, SD 3.5, Gemini 3 Pro) over een benchmark van 100 prompts die 50 beroepen beslaat.

Resultaten
KG-FairDiff vertoont substantiële verbeteringen in het verminderen van demografische ongelijkheden terwijl de semantiek van de prompts behouden blijft:

Prestaties vs. Baselines: Vergeleken met prompt-niveau baselines zoals MinorityPrompt en PreciseDebias, bereikt KG-FairDiff aanzienlijk grotere reducties in bias. Specifiek bereikt het tot 20× grotere Bias-W reducties (bijv. -0,1396 vs. -0,0037 voor Ras) en 13× grotere ENS winsten vergeleken met MinorityPrompt.
Semantische Preservering: Het verfijningsproces behoudt een hoge semantische getrouwheid, met een gemiddelde Wasserstein-afstand verandering ( $\Delta \bar{W}_2^2$ ) van slechts 0,0011.
Ablatie-studies: Experimenten bevestigen dat de KG retrieval-component onafhankelijk bijdraagt aan de winst in eerlijkheid, los van de capaciteiten van de LLM rewriter.
Geobserveerde Beperkingen: De auteurs merken op dat voor bepaalde generators (bijv. SD 3.5 Large, Gemini 3 Pro), sommige metrieken verslechterden door conflicten tussen de verfijnde prompts en de ingebouwde veiligheidsfilters van de generators, of door conflicterende signalen in intersectionele optimalisatie. Daarnaast vertrouwt het framework op geautomatiseerde classificaties (FairFace) die een lagere recall hebben voor niet-Westerse fenotypes.

Betekenis en Claims
Het artikel claimt dat KG-FairDiff een praktische, inzetbare route biedt naar meer rechtvaardige generatieve AI. De primaire betekenis ligt in het vermogen om op prompt-niveau te interveniëren zonder toegang te vereisen tot modelgewichten of kostbare hertraining, wat het toepasbaar maakt voor zowel propriëtaire als open-weight black-box generators. Door verfijningen te funderen in gestructureerde culturele kennis in plaats van vaste sjablonen, beoogt het framework de populatiebrede schade te verminderen die wordt veroorzaakt door de herhaling van smalle representaties. De auteurs positioneren dit werk als een stap naar "betrouwbare AI" die kan auditeren en interveniëren in gedeponeerde modellen onder realistische beperkingen, hoewel zij erkennen dat toekomstig werk nodig is om de knowledge graph te schalen naar bredere culturele dekking en de validator rigoureus te kalibreren tegen downstream metrieken.