💻 computer science

Whose fairness? Structural concentration in AI bias research

Cet article révèle que la recherche sur les biais de l'IA est structurellement concentrée au sein d'un ensemble restreint d'institutions et d'auteurs dominés par les États-Unis, ce qui soulève des inquiétudes quant au fait que les définitions de l'équité et les méthodes d'atténuation qui en résultent pourraient manquer de généralisabilité aux diverses populations et contextes mondiaux.

Auteurs originaux : Abhash Shrestha, Subigya Gautam, Anu Sapkota, Sanju Tiwari, Tek Raj Chhetri

Publié 2026-07-08

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Abhash Shrestha, Subigya Gautam, Anu Sapkota, Sanju Tiwari, Tek Raj Chhetri

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez le monde de l'Intelligence Artificielle (IA) comme une cuisine immense et trépidante où des chefs inventent constamment de nouvelles recettes pour résoudre des problèmes dans la santé, le droit et la vie quotidienne. Mais avant de pouvoir cuisiner, ils doivent se mettre d'accord sur ce que signifie un goût « équitable ». Ce document est un regard dans les coulisses pour savoir qui se tient réellement dans la cuisine, qui a le droit d'écrire les recettes, et si ces recettes fonctionnent pour tout le monde.

Voici l'histoire de ce document, décomposée en parties simples :

1. Le Problème : Qui est dans la cuisine ?

Les auteurs voulaient savoir : De quelle équité parlons-nous ?
Depuis des années, des chercheurs tentent de corriger les biais de l'IA (lorsque les ordinateurs prennent des décisions injustes). Ils ont construit des outils et des règles pour mesurer cela. Mais ils ne se sont jamais arrêtés pour demander : Qui rédige ces règles ?

Le document agit comme un recensement de toute la communauté de recherche en « Équité de l'IA ». Ils ont examiné 692 articles de recherche publiés entre 2015 et 2025. Ils ont traité ces articles comme une carte pour voir où vivent les chercheurs, pour quelles écoles ou entreprises ils travaillent, et avec qui ils communiquent.

2. La Conclusion Principale : Un groupe très restreint dirige les opérations

Les résultats montrent que la cuisine de l'« Équité de l'IA » est fortement concentrée dans quelques endroits.

Les États-Unis sont le Chef de Cuisine : Les États-Unis dominent le domaine. Ils ont écrit près de la moitié de tous les articles qui fixent les « règles » de l'équité. Si l'on regarde qui dirige les équipes de recherche (les premiers auteurs), les États-Unis sont responsables de presque 50 % d'entre eux.
Le « Sud Global » est absent : Les pays d'Asie du Sud, d'Afrique et d'Amérique latine sont à peine présents dans la pièce. Même l'Inde, qui possède une main-d'œuvre technologique immense, est étonnamment silencieuse dans cette conversation spécifique.
Le « Cercle Intérieur » : Les chercheurs se parlent principalement entre eux au sein d'un petit club occidental (États-Unis, Royaume-Uni, Canada, Allemagne). C'est comme un dîner où tout le monde se connaît, mais où le reste du monde n'est pas invité.

3. La Couche « Fondations » : La pièce la plus importante est la plus exclusive

Les chercheurs ont divisé les articles en cinq « pièces » ou sujets différents :

Équité générale et atténuation des biais (Le livre de règles)
IA en santé
Grands Modèles de Langage (LLM)
Systèmes de recommandation (Comme les suggestions Netflix ou YouTube)
Équité basée sur les graphes

Voici le tournant critique : La pièce la plus importante est la pièce de l'« Équité Générale ». C'est là que les définitions, les critères de référence (benchmarks) et les règles de base sont inventés. Ces règles sont ensuite copiées et utilisées par les quatre autres pièces (comme la Santé ou les LLM).

Le Danger : La pièce de l'« Équité Générale » est la plus concentrée de toutes. Les États-Unis dominent cette pièce plus que n'importe quel autre pays.
La Métaphore : Imaginez une entreprise où les personnes concevant les plans de tous les bâtiments vivent dans un quartier spécifique. Ils conçoivent les portes et les fenêtres en fonction de ce qui convient à leur quartier. Ensuite, ils envoient ces plans pour construire des maisons dans la jungle, le désert et l'Arctique. Les portes pourraient ne pas s'ajuster, ou les fenêtres pourraient laisser entrer trop de pluie, parce que les concepteurs originaux n'ont jamais visité ces endroits.

4. Le « Concours de Popularité » (Citations)

Les auteurs ont également regardé qui reçoit le plus de « tapes dans le dos » (citations) de la part d'autres scientifiques.

Quelques articles reçoivent des milliers de citations, tandis que la plupart en reçoivent très peu.
Curieusement, ce n'est pas parce qu'un pays écrit plus de papiers (comme la Chine ou l'Inde) qu'il reçoit forcément le plus de « tapes dans le dos ».
Cependant, les articles qui reçoivent le plus d'attention proviennent toujours majoritairement des États-Unis et du Royaume-Uni, et ils concernent principalement les règles d'« Équité Générale ».

5. Pourquoi cela importe

Le document soutient que, puisque les « créateurs de règles » sont majoritairement issus des États-Unis et de l'Europe de l'Ouest, les règles qu'ils créent pourraient ne pas fonctionner pour tout le monde.

Angles morts culturels : Ce qui semble « juste » à New York peut sembler injuste à Katmandou ou à Nairobi. Par exemple, le document mentionne que dans certaines cultures, éviter le regard est un signe de respect, alors qu'en Occident, cela peut être perçu comme un manque de confiance. Si une IA est entraînée uniquement sur des règles occidentales, elle pourrait mal juger des personnes issues d'autres cultures.
Le Risque : Nous construisons des systèmes d'IA pour le monde entier, mais les « manuels de sécurité » sont écrits par un groupe minuscule et non représentatif. Cela signifie que les solutions pourraient ne pas fonctionner pour les personnes qui en ont le plus besoin.

6. Ce qu'ils ont fait pour aider

Les auteurs n'ont pas seulement souligné le problème ; ils ont construit une carte vivante (un atlas interactif) que n'importe qui peut utiliser pour observer ce domaine grandir. Cela permet à la communauté de voir en temps réel si la cuisine devient plus diversifiée ou si elle reste le même petit groupe de personnes dirigeant la montre.

Résumé

Ce document est une étiquette d'avertissement sur l'industrie de l'IA. Il dit : « Nous essayons de construire une IA équitable pour tous, mais les personnes qui conçoivent le concept même d'équité proviennent majoritairement d'une seule partie du monde. Tant que nous n'inviterons pas plus de voix issues de différentes cultures et de différents pays à la table, notre définition de l'équité restera incomplète et potentiellement préjudiciable pour ceux qui se trouvent en dehors du "cercle intérieur". »

Résumé technique : « Whose fairness? Structural concentration in AI bias research »

Énoncé du problème
Alors que le domaine de l'intelligence artificielle (IA) a développé des méthodologies étendues pour mesurer et atténuer les biais dans des domaines conséquents (santé, droit, services publics), la communauté de recherche produisant ces définitions d'équité, ces benchmarks et ces cadres de débiaisage n'a jamais été caractérisée de manière empirique. Il existe une lacune critique dans la compréhension de la composition structurelle de cette communauté. Les auteurs postulent que si le paysage de la recherche est géographiquement et institutionnellement concentré, les normes d'équité « universelles » qui en résultent peuvent encoder des hypothèses locales qui ne parviennent pas à se généraliser à des populations et des contextes socioculturels divers. Cela fait peser le risque que les stratégies d'atténuation validées dans des contextes étroits soient appliquées de manière inappropriée à l'échelle mondiale, perpétuant potentiellement des préjudices dans les régions sous-représentées.

Méthodologie
L'étude emploie une analyse mixte, bibliométrique et sémantique, d'un corpus de 692 publications s'étendant sur onze ans (2015–2025), avec un article séminal de 2012 conservé pour son impact.

Construction du corpus : Les articles ont été systématiquement extraits des principales bases de données (IEEE Xplore, ACM Digital Library, Scopus, ScienceDirect, Engineering Village) et des actes de l'ACM FAccT. La recherche a utilisé des chaînes de mots-clés centrées sur « Bias » (Biais), « Decision-making » (Prise de décision) et « AI » (IA). Le corpus a été complété par un effet de boule de neige de citations et un criblage manuel de pertinence.
Classification thématique : Les articles ont été assignés manuellement à cinq domaines thématiques :
- Équité générale et atténuation des biais (46,1 %)
- Grands modèles de langage (LLM) et TAL (Traitement automatique des langues) (21,8 %)
- IA en santé et clinique (16,6 %)
- Systèmes de recommandation (10,0 %)
- Équité basée sur les graphes et atténuation des biais (5,5 %)
Analyse quantitative :
- Métriques géographiques/institutionnelles : Les auteurs ont calculé le nombre d'auteurs uniques (tous auteurs et premier auteur) ainsi que les affiliations institutionnelles. Ils ont calculé des coefficients de Gini pour mesurer la concentration (0 = égalité parfaite, 1 = concentration maximale) pour les pays et les institutions.
- Réseaux de collaboration : Un réseau de co-autorat de 2 502 auteurs a été reconstruit pour analyser les modèles de collaboration régionale.
- Dynamique de citation : Les comptes de citations mondiaux (issus d'OpenAlex) et les citations internes au corpus ont été analysés. Des tests statistiques non paramétriques (Kruskal-Wallis, test post-hoc de Dunn, corrélation de rang de Spearman) ont été utilisés en raison des distributions de citations asymétriques.
Regroupement sémantique (Clustering) :
- Les résumés ont été encodés à l'aide de Sentence-BERT (évaluant les modèles MPNet, MiniLM et SPECTER). MPNet a été sélectionné sur la base du score de silhouette le plus élevé (0,2564).
- La réduction de dimensionnalité a été effectuée via UMAP (Uniform Manifold Approximation and Projection).
- Le regroupement a été exécuté via HDBSCAN (Hierarchical Density-Based Spatial Clustering of Applications with Noise) sur la projection UMAP en 2D. La configuration (min_cluster_size=20, min_samples=10) a produit quatre clusters sémantiquement cohérents.
- L'alignement entre les clusters automatisés et les étiquettes de domaine manuelles a été validé à l'aide de l'indice de Rand ajusté (ARI) et de l'information mutuelle normalisée (NMI).

Résultats clés

Concentration structurelle : Le domaine est hautement concentré. Les États-Unis dominent la production, contribuant à 48,7 % des articles avec premier auteur et menant dans tous les domaines. Le coefficient de Gini pour les articles avec premier auteur à travers 52 pays est de 0,7842, indiquant une inégalité extrême.
Leadership spécifique aux domaines :
- Équité générale et atténuation des biais : Ce domaine fondamental est le plus concentré, les États-Unis représentant 58,3 % des publications avec premier auteur. Ceci est crucial car ce domaine fournit les définitions et les benchmarks adoptés par d'autres domaines d'application.
- IA en santé et clinique : C'est le domaine le plus équilibré sur le plan international, avec des contributions significatives du Canada, du Royaume-Uni, de l'Allemagne et de la Chine aux côtés des États-Unis.
- LLM et TAL : La Chine est le deuxième contributeur ici (17,2 % des premiers auteurs), reflétant une focalisation sur l'IA technique et générative plutôt que sur la théorie fondamentale de l'équité.
- Équité basée sur les graphes : Hautement concentrée au sein de deux institutions (University of Virginia et Oxford), représentant 75 % de la production avec premier auteur.
Réseaux de collaboration : La collaboration est principalement intra-occidentale (États-Unis, Royaume-Uni, Canada, Allemagne). Le Sud Global (incluant l'Asie du Sud, l'Afrique et l'Amérique latine) est largement absent du réseau de co-autorat. L'Inde, malgré sa grande main-d'œuvre technique, reste sous-représentée dans les structures de collaboration.
Dynamique de citation : L'impact des citations est très asymétrique (médiane = 9 ; moyenne = 93,5). Il n'y a aucune corrélation significative entre le volume de publication d'un pays et l'impact médian de ses citations ( $\rho = 0,073$ ). Bien que les États-Unis mènent en volume, des pays comme le Canada et le Royaume-Uni présentent des citations médianes par article plus élevées.
Structure sémantique : Le regroupement sémantique (HDBSCAN) a produit quatre clusters qui s'alignent largement sur les domaines manuels. L'« Équité générale » apparaît dans les quatre clusters, confirmant sa nature transversale. L'« Équité basée sur les graphes » est dispersée à travers les clusters, fonctionnant davantage comme un prisme méthodologique que comme un domaine d'application distinct.

Contributions clés

Caractérisation empirique : L'article fournit la première analyse structurelle complète de la communauté de recherche sur les biais de l'IA, faisant passer la question de « qui façonne la recherche sur les biais de l'IA » de l'hypothèse à la mesure.
Identification du risque épistémique : Il démontre que la « couche fondamentale » du domaine (Équité générale) est la plus géographiquement concentrée. Cela suggère que les définitions de l'équité et les cadres d'atténuation utilisés mondialement sont disproportionnellement façonnés par un ensemble restreint d'institutions centrées sur les États-Unis.
Atlas interactif : Les auteurs ont publié un atlas dynamique et interactif (https://biasatlas.cair-nepal.org) pour permettre un suivi continu de l'évolution structurelle du domaine, de la participation géographique et des modèles de citation.
Cadre méthodologique : L'étude établit un pipeline reproductible combinant la bibliométrie avec le regroupement sémantique (UMAP + HDBSCAN) pour cartographier les paysages de recherche.

Signification et affirmations
L'article soutient que la concentration structurelle de la recherche sur les biais de l'IA n'est pas seulement un problème de représentation, mais un problème épistémique. Parce que les définitions fondamentales et les benchmarks sont produits dans un ensemble restreint de contextes occidentaux, il existe un risque que ces normes « universelles » encodent des hypothèses culturelles et institutionnelles locales.

Les auteurs affirment que :

Les méthodes d'atténuation développées et validées dans des contextes concentrés peuvent ne pas se généraliser à toutes les populations, particulièrement dans le Sud Global.
La dominance des institutions américaines dans le domaine de l'« Équité générale » signifie que les fondements méthodologiques du domaine sont façonnés par un ensemble limité de priorités, négligeant potentiellement les préjudices pertinents pour des contextes socioculturels sous-représentés.
Le découplage entre le volume de publication et l'impact des citations suggère que l'influence n'est pas seulement une fonction de la quantité de production, mais que les producteurs à haut volume (comme les États-Unis) exercent une influence par l'établissement de l'ordre du jour et la centralité institutionnelle.

L'article conclut que pour traiter les biais de l'IA, il faut élargir non seulement les méthodes techniques, mais aussi les communautés qui les produisent. Il appelle à une validation externe plus forte dans les contextes sous-représentés et à une plus grande capacité de collaboration dans les régions actuellement faiblement représentées dans le discours de la recherche. Les auteurs notent explicitement les limites, reconnaissant que leur corpus est tiré de bases de données indexées en langues de pays du Nord, ce qui peut sous-représenter la recherche publiée dans d'autres langues ou via des revues régionales, bien qu'ils soutiennent que cela reflète probablement l'ampleur du déséquilibre plutôt que d'en inverser la direction.