💻 computer science

Whose fairness? Structural concentration in AI bias research

Dit artikel onthult dat onderzoek naar AI-bias structureel geconcentreerd is binnen een nauwe set van door de VS gedomineerde instellingen en auteurs, wat zorgen oproept dat de resulterende definities van eerlijkheid en mitigatiemethoden mogelijk een gebrek aan generaliseerbaarheid hebben naar diverse wereldwijde populaties en contexten.

Oorspronkelijke auteurs: Abhash Shrestha, Subigya Gautam, Anu Sapkota, Sanju Tiwari, Tek Raj Chhetri

Gepubliceerd 2026-07-08

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Abhash Shrestha, Subigya Gautam, Anu Sapkota, Sanju Tiwari, Tek Raj Chhetri

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je de wereld van Kunstmatige Intelligentie (AI) voor als een enorme, bruisende keuken waar chefs constant nieuwe recepten bedenken om problemen op te lossen in de gezondheidszorg, de juridische sector en het dagelijks leven. Maar voordat ze kunnen koken, moeten ze het eens worden over hoe "eerlijkheid" smaakt. Dit artikel is een kijkje achter de schermen bij wie er eigenlijk in de keuken staat, wie de recepten mag schrijven, en of die recepten wel voor iedereen werken.

Hier is het verhaal van het artikel, onderverdeeld in eenvoudige delen:

1. Het Probleen: Wie staat er in de keuken?

De auteurs wilden weten: Van wiens eerlijkheid hebben we het eigenlijk?
Jarenlang hebben onderzoekers geprobeerd AI-bias (wanneer computers onrechtvaardige beslissingen nemen) te corrigeren. Ze hebben tools en regels gebouwd om dit te meten. Maar ze hebben nooit de vraag gesteld: Wie maakt deze regels?

Het artikel fungeert als een telling van de gehele "AI-eerlijkheid" onderzoekscommunity. Ze keken naar 692 wetenschappelijke artikelen gepubliceerd tussen 2015 en 2025. Ze behandelden deze artikelen als een kaart om te zien waar de onderzoekers wonen, voor welke scholen of bedrijven ze werken, en met wie ze praten.

2. De Belangrijkste Bevinding: Een zeer kleine groep runt de boel

De resultaten laten zien dat de "AI-eerlijkheid" keuken sterk geconcentreerd is in een paar gebieden.

De Verenigde Staten is de Hoofdchef: De VS domineert het veld. Zij schreven bijna de helft van alle artikelen die de "regels" voor eerlijkheid vastleggen. Als je kijkt naar wie de onderzoeksteams leidt (de eerste auteurs), is de VS verantwoordelijk voor bijna 50% van hen.
Het "Mondiale Zuiden" ontbreekt: Landen in Zuid-Azië, Afrika en Latijns-Amerika zijn nauwelijks aanwezig in de kamer. Zelfs India, dat een enorme tech-arbeidsmarkt heeft, is verrassend stil in dit specifieke gesprek.
De "Inner Circle": De onderzoekers praten vooral met elkaar binnen een kleine westerse club (VS, VK, Canada, Duitsland). Het is als een dinerfeestje waar iedereen elkaar kent, maar de rest van de wereld is niet uitgenodigd.

3. De "Fundament"-laag: De belangrijkste kamer is de meest exclusieve

De onderzoekers verdeelden de artikelen in vijf verschillende "kamers" of onderwerpen:

Algemene Eerlijkheid & Bias Mitigatie (Het regelboek)
Gezondheids-AI
Large Language Models (LLMs)
Recommender Systems (Zoals suggesties van Netflix of YouTube)
Graph-Based Fairness

Hier zit de cruciale wending: De belangrijkste kamer is de "Algemene Eerlijkheid" kamer. Dit is waar de definities, benchmarks en basisregels worden uitgevonden. Deze regels worden vervolgens gekopieerd en gebruikt door de andere vier kamers (zoals Gezondheid of LLMs).

Het Gevaar: De "Algemene Eerlijkheid" kamer is de meest geconcentreerde van allemaal. De VS leidt deze kamer meer dan enig ander land.
De Metafoor: Stel je een bedrijf voor waar de mensen die de blauwdrukken voor alle gebouwen ontwerpen, in één specifieke buurt wonen. Zij ontwerpen de deuren en ramen op basis van wat past bij hun buurt. Vervolgens sturen ze die blauwdrukken door om huizen te bouwen in de jungle, de woestijn en de arctische gebieden. De deuren passen misschien niet, of de ramen laten te veel regen door, omdat de oorspronkelijke ontwerpers die plekken nooit hebben bezocht.

4. De "Populariteitswedstrijd" (Citaties)

De auteurs keken ook naar wie de meeste "high-fives" (citaties) krijgt van andere wetenschappers.

Een paar artikelen krijgen duizenden citaties, terwijl de meeste er heel weinig krijgen.
Interessant genoeg betekent het feit dat een land meer artikelen schrijft (zoals China of India), niet automatisch dat die artikelen de meeste "high-fives" krijgen.
De artikelen die echter de meeste aandacht krijgen, komen nog steeds voornamelijk uit de VS en het VK, en gaan meestal over de regels voor "Algemene Eerlijkheid".

5. Waarom dit ertoe doet

Het artikel betoogt dat omdat de "regelmakers" voornamelijk uit de VS en West-Europa komen, de regels die zij creëren mogelijk niet voor iedereen werken.

Culturele Blinde Vlekken: Wat "eerlijk" lijkt in New York, kan in Kathmandu of Nairobi oneerlijk lijken. Zo vermeldt het artikel bijvoorbeeld dat het in sommige culturen een teken van respect is om geen oogcontact te maken, terwijl dat in het Westen kan worden gezien als een gebrek aan zelfvertrouwen. Als een AI alleen wordt getraind op westerse regels, kan het mensen uit andere culturen verkeerd beoordelen.
Het Risico: We bouwen AI-systemen voor de hele wereld, maar de "veiligheidshandleidingen" worden geschreven door een kleine, niet-representatieve groep. Dit betekent dat de oplossingen mogelijk niet werken voor de mensen die ze het hardst nodig hebben.

6. Wat ze deden om te helpen

De auteurs hebben niet alleen het probleem aangewezen; ze hebben een levende kaart (een interactieve atlas) gebouwd die iedereen kan gebruiken om dit veld te volgen terwijl het groeit. Hierdoor kan de community in realtime zien of de keuken diverser wordt of dat het nog steeds dezelfde kleine groep is die de dienst uitmaakt.

Samenvatting

Het artikel is een waarschuwing op de verpakking van de AI-industrie. Het zegt: "We proberen eerlijke AI voor iedereen te bouwen, maar de mensen die het concept van 'eerlijkheid' ontwerpen, komen voornamelijk uit één deel van de wereld. Totdat we meer stemmen uit verschillende culturen en landen aan tafel uitnodigen, zal onze definitie van eerlijkheid incompleet blijven en potentieel schadelijk zijn voor degenen die buiten de 'inner circle' vallen."

Technische Samenvatting: "Whose fairness? Structural concentration in AI bias research"

Probleemstelling
Hoewel het vakgebied van Kunstmatige Intelligentie (AI) uitgebreide methodologieën heeft ontwikkeld voor het meten en verzachten van bias in cruciale domeinen (gezondheidszorg, recht, publieke diensten), is de onderzoeksgemeenschap die deze definities van eerlijkheid (fairness), benchmarks en de-biasing frameworks produceert, nooit empirisch gekarakteriseerd. Er is een kritiek gat in het begrip van de structurele samenstelling van deze gemeenschap. De auteurs stellen dat als het onderzoekslandschap geografisch en institutioneel geconcentreerd is, de resulterende "universele" standaarden voor eerlijkheid lokale aannames kunnen coderen die niet generaliseerbaar zijn naar diverse populaties en sociaal-culturele settings. Dit brengt het risico met zich mee dat mitigatiestrategieën die in smalle contexten zijn gevalideerd, ongepast wereldwijd kunnen worden toegepast, wat potentieel schade kan berokkenen in ondervertegenwoordigde regio's.

Methodologie
De studie maakt gebruik van een mixed-methods bibliometrische en semantische analyse van een corpus van 692 publicaties verspreid over elf jaar (2015–2025), waarbij één fundamenteel artikel uit 2012 is behouden voor impact.

Corpusconstructie: Artikelen zijn systematisch opgehaald uit belangrijke databases (IEEE Xplore, ACM Digital Library, Scopus, ScienceDirect, Engineering Village) en de ACM FAccT-conferentieverslagen. De zoekopdracht maakte gebruik van trefwoordreeksen gecentreerd rond "Bias", "Decision-making" en "AI". Het corpus werd aangevuld via citation snowballing en handmatige relevantiescreening.
Thematische Classificatie: Artikelen werden handmatig toegewezen aan vijf thematische domeinen:
- Algemene eerlijkheid & Bias-mitigatie (46,1%)
- Large Language Models (LLMs) & NLP (21,8%)
- Gezondheidszorg & Klinische AI (16,6%)
- Recommender Systemen (10,0%)
- Graaf-gebaseerde eerlijkheid & Bias-mitigatie (5,5%)
Kwantitatieve Analyse:
- Geografische/Institutionele Metrieken: De auteurs berekenden unieke auteurstotalen (alle auteurs en eerste auteurs) en institutionele affiliaties. Ze berekenden Gini-coëfficiënten om concentratie te meten (0 = perfecte gelijkheid, 1 = maximale concentratie) voor zowel landen als instituten.
- Collaboratienetwerken: Een co-auteurschap netwerk van 2.502 auteurs werd gereconstrueerd om regionale samenwerkingspatronen te analyseren.
- Citatiedynamiek: Mondiale citatieaantallen (van OpenAlex) en interne corpus-citaties werden geanalyseerd. Niet-parametrische statistische tests (Kruskal-Wallis, Dunn's post-hoc, Spearman rangcorrelatie) werden gebruikt vanwege scheve citatiedistributies.
Semantische Clustering:
- Abstracts werden gecodeerd met behulp van Sentence-BERT (waarbij MPNet, MiniLM en SPECTER modellen werden geëvalueerd). MPNet werd geselecteerd op basis van de hoogste silhouette score (0,2564).
- Dimensiereductie werd uitgevoerd via UMAP (Uniform Manifold Approximation and Projection).
- Clustering werd uitgevoerd via HDBSCAN (Hierarchical Density-Based Spatial Clustering of Applications with Noise) op de 2D UMAP-projectie. De configuratie (min_cluster_size=20, min_samples=10) leverde vier semantisch coherente clusters op.
- De afstemming tussen de geautomatiseerde clusters en handmatige domeinlabels werd gevalideerd met de Adjusted Rand Index (ARI) en Normalized Mutual Information (NMI).

Belangrijkste Resultaten

Structurele Concentratie: Het veld is sterk geconcentreerd. De Verenigde Staten domineren de productie, met een bijdrage van 48,7% aan eerste-auteur publicaties en leiden in alle domeinen. De Gini-coëfficiënt voor eerste-auteur publicaties over 52 landen is 0,7842, wat wijst op extreme ongelijkheid.
Domeinspecifiek Leiderschap:
- Algemene eerlijkheid & Bias-mitigatie: Dit fundamentele domein is het meest geconcentreerd, waarbij de VS verantwoordelijk is voor 58,3% van de eerste-auteur publicaties. Dit is cruciaal omdat dit domein de definities en benchmarks levert die door andere toepassingsgebieden worden overgenomen.
- Gezondheidszorg & Klinische AI: Dit is het meest internationaal gebalanceerde domein, met significante bijdragen van Canada, het VK, Duitsland en China naast de VS.
- LLMs & NLP: China is de op één na grootste bijdrager hier (17,2% eerste-auteur), wat wijst op een focus op technische en generatieve AI in plaats van fundamentele eerlijkheidstheorie.
- Graaf-gebaseerde eerlijkheid: Sterk geconcentreerd binnen twee instituten (University of Virginia en Oxford), verantwoordelijk voor 75% van de eerste-auteur output.
Collaboratienetwerken: Samenwerking is voornamelijk intra-Westers (VS, VK, Canada, Duitsland). Het Mondiale Zuiden (inclusief Zuid-Azië, Afrika en Latijns-Amerika) is grotendeels afwezig in het co-auteurschap netwerk. India, ondanks een grote technische beroepsbevolking, blijft ondervertegenwoordigd in de samenwerkingsstructuren.
Citatiedynamiek: De citatie-impact is sterk scheef verdeeld (mediaan = 9; gemiddelde = 93,5). Er is geen significante correlatie tussen het volume van publicaties per land en de mediane citatie-impact ( $\rho = 0,073$ ). Hoewel de VS leidt in volume, vertonen landen als Canada en het VK hogere mediane citaties per artikel.
Semantische Structuur: De semantische clustering (HDBSCAN) produceerde vier clusters die grotendeels overeenkomen met de handmatige domeinen. "Algemene eerlijkheid" komt in alle vier de clusters voor, wat de overkoepelende aard ervan bevestigt. "Graaf-gebaseerde eerlijkheid" is verspreid over de clusters en fungeert als een methodologische lens in plaats van een afzonderlijk toepassingsdomein.

Belangrijkste Bijdragen

Empirische Karakterisering: Het artikel biedt de eerste uitgebreide structurele analyse van de AI-bias onderzoeksgemeenschap, waardoor de vraag "wie de vorm geeft aan AI-bias onderzoek" van aanname naar meting wordt gebracht.
Identificatie van Epistemisch Risico: Het toont aan dat de "fundamentele laag" van het veld (Algemene eerlijkheid) het meest geografisch geconcentreerd is. Dit suggereert dat de definities van eerlijkheid en de mitigatie-frameworks die wereldwijd worden gebruikt, disproportioneel worden gevormd door een nauwe set VS-gecentreerde instituten.
Interactieve Atlas: De auteurs hebben een dynamische, interactieve atlas uitgebracht (https://biasatlas.cair-nepal.org) om de structurele evolutie, geografische participatie en citatiepatronen van het veld continu te kunnen monitoren.
Methodologisch Framework: De studie stelt een reproduceerbare pijplijn beschikbaar die bibliometrie combineert met semantische clustering (UMAP + HDBSCAN) om onderzoekslandschappen in kaart te brengen.

Betekenis en Claims
Het artikel betoogt dat de structurele concentratie van AI-bias onderzoek niet slechts een representatieprobleem is, maar een epistemisch probleem. Omdat de fundamentele definities en benchmarks worden geproduceerd binnen een nauwe set Westerse contexten, bestaat het risico dat deze "universele" standaarden lokale culturele en institutionele aannames coderen.

De auteurs beweren dat:

Mitigatiemethoden die zijn ontwikkeld en gevalideerd in geconcentreerde settings, mogelijk niet generaliseerbaar zijn naar alle populaties, in het bijzonder in het Mondiale Zuiden.
De dominantie van Amerikaanse instituten in het domein "Algemene eerlijkheid" betekent dat de methodologische fundamenten van het veld worden gevormd door een beperkte set prioriteiten, waarbij relevante schade in ondervertegenwoordigde sociaal-culturele settings mogelijk wordt over het hoofd gezien.
De ontkoppeling tussen publicatievolume en citatie-impact suggereert dat invloed niet uitsluitend een functie is van outputkwantiteit, maar dat producenten met een hoog volume (zoals de VS) invloed uitoefenen via agenda-setting en institutionele centraliteit.

Het artikel concludeert dat het aanpakken van AI-bias niet alleen bredere technische methoden vereist, maar ook de gemeenschappen die deze produceren. Er wordt gepleit voor sterkere externe validatie in ondervertegenlegeerde contexten en voor een grotere capaciteit tot samenwerking in regio's die momenteel zwak vertegenwoordigd zijn in het onderzoeksdiscours. De auteurs merken expliciet de beperkingen op, waarbij zij erkennen dat hun corpus afkomstig is uit Engelstalige, door het Noorden geïndexeerde databases, wat onderzoek in andere talen of regionale podia mogelijk ondervertegenwoordigt, hoewel zij aanvoeren dat dit waarschijnlijk de omvang van de onbalans weerspiegelt in plaats van de richting ervan om te keren.