Résumé Technique : Naviguer dans les eaux troubles du biais dans la recherche en intelligence artificielle

1. Énoncé du problème

Malgré une sensibilisation croissante aux conséquences sociales et éthiques des biais de l'IA, il existe un manque de clarté concernant la manière dont la communauté de recherche en IA interprète, définit et opérationnalise elle-même le concept de « biais ». Les revues de littérature existantes sur le biais algorithmique sont souvent limitées en portée (par exemple, analysant moins de 60 articles), se concentrent sur des domaines spécifiques (par exemple, le biais de genre ou les chatbots), ou reposent sur une synthèse manuelle incapable de cartographier de manière exhaustive les significations complexes et divergentes du biais à travers l'immense corps de la recherche en IA. Par conséquent, il n'existe pas de compréhension cohérente pour savoir si le biais est perçu principalement comme une erreur statistique, un paramètre ajustable, ou un problème sociotechnique impliquant la discrimination et les préjudices éthiques. Cette étude répond à la nécessité de déballer systématiquement les perspectives sur le biais détenues par la communauté de recherche en IA afin de combler les lacunes conceptuelles entre les parties prenantes techniques, sociales et éthiques.

2. Méthodologie

Les auteurs ont employé une Revue de Littérature Computationnelle (RLC) utilisant la Modélisation de Sujets (Topic Modeling) pour analyser un vaste corpus de littérature scientifique.

• Collecte de données : L'étude a agrégé 16 464 articles provenant de bases de données majeures (ACM, IEEE, Springer, Web of Science, EBSCO) et de conférences de premier plan en informatique (AAAI, ACL, CVPR, ICML, NeurIPS, etc.).
• Filtrage et éligibilité : Après avoir supprimé les doublons et restreint le champ aux articles en langue anglaise publiés après l'an 2000, une stratégie d'expansion de mots-clés en trois étapes (impliquant des concepts fondamentaux de l'IA, une analyse de citation ascendante et une analyse de citation descendante) a été utilisée pour identifier les articles directement pertinents pour le biais. Cela a abouti à un ensemble de données final de 6 520 articles (53,2 % d'articles de revues, 46,8 % d'actes de conférences).
• Modélisation de sujets : Les auteurs ont appliqué la Latent Dirichlet Allocation (LDA) aux résumés de ces 6 520 articles.
  • Sélection du modèle : La LDA a été choisie plutôt que de nouvelles approches neuronales (comme BERTopic) en raison de sa stabilité, de ses faibles besoins en ressources et de sa performance supérieure sur ce jeu de données spécifique (la LDA a atteint une cohérence de sujet de 0,36 et une diversité de sujet de 0,95, contre 0,02 et 0,72 pour BERTopic).
  • Réglage des paramètres : Le modèle a été exécuté avec 39 sujets, 4 000 itérations, $\beta=0,01$ et $\alpha=0,13$.
  • Vérification de la stabilité : Pour garantir la stabilité des sujets, les auteurs ont exécuté le modèle trois fois et ont utilisé la similitude cosinus pour identifier 24 sujets stables, affinant finalement ce nombre à 18 sujets cohérents et pertinents par le biais d'un codage humain.
• Codage humain et analyse : Deux auteurs ont codé indépendamment les 18 sujets pour en vérifier la significativité et la pertinence vis-à-vis du biais, parvenant à un consensus sur les étiquettes et les définitions. Les sujets ont ensuite été regroupés en quatre thèmes transversaux et analysés par rapport aux typologies de biais existantes (par exemple, Suresh & Guttag, 2021 ; Mehrabi et al., 2022).

3. Résultats clés

L'analyse a révélé que la définition du biais au sein de la communauté de recherche en IA est dispersée et complexe, présentant souvent des conceptions divergentes. Les 18 sujets identifiés ont été classés en quatre thèmes majeurs :

A. Biais algorithmique (Conception technique)

• Sujets : Algorithmes de classification, Paramètres de réseaux de neurones, Modélisation prédictive, Apprentissage par renforcement, Clustering non supervisé.
• Conception : Le biais est principalement perçu comme une inefficacité technique ou un paramètre statistique ajustable.
  • Dans les Paramètres de réseaux de neurones et la Préférence systématique, le biais n'est pas vu comme un défaut à éliminer mais comme un paramètre qui peut être optimisé (par exemple, via des algorithmes génétiques) pour améliorer les performances du modèle.
  • Dans les Algorithmes de classification, le biais est formulé comme un défi découlant de jeux de données déséquilibrés, traité par des méthodes techniques telles que le suréchantillonnage ou la génération de données synthétiques.

B. Biais spécifiques aux applications (Conception technique/contextuelle)

• Sujets : Applications en cybersécurité, Applications médicales de l'IA, Recherche d'information, Segmentation d'image, TAL (Traitement du langage naturel), Vision par ordinateur.
• Conception : Le biais est compris à travers le prisme des exigences spécifiques de chaque domaine.
  • En Cybersécurité et en Recherche d'information, le biais est parfois conçu comme une caractéristique pour améliorer la précision de la détection ou l'efficacité de la recherche (par exemple, le « biais central » en vision par ordinateur imitant le regard humain).
  • Dans les Applications médicales, le biais est strictement perçu comme une déviation systémique négative qui menace la validité clinique et doit être atténuée avant le déploiement.
  • En TAL, le biais est reconnu comme un reflet des inégalités sociales dans les données d'entraînement (biais de représentation).

C. Biais de données (Conception sociotechnique)

• Sujets : Adaptation de domaine, Décalage de biais (Bias Shift), Préférence systématique, Distribution des données d'entraînement.
• Conception : Le biais est enraciné dans la qualité, la distribution et la représentativité des données d'entraînement.
  • Des problèmes tels que le bruit d'étiquetage, les distributions de classes asymétriques et les décalages de domaine sont identifiés comme des failles fondamentales qui se propagent à travers le pipeline de l'IA.
  • Ce thème fait le pont entre les problèmes techniques de données et les implications plus larges de la qualité des données sur la généralisabilité des modèles.

D. Biais sociaux et éthiques (Conception sociotechnique)

• Sujets : Analyse du comportement des utilisateurs, Équité et discrimination de l'IA, Problèmes éthiques de l'IA.
• Conception : Le biais est défini comme de la discrimination et des résultats injustes affectant des groupes sociaux.
  • Ce thème se concentre sur les attributs sensibles (race, genre), la responsabilité institutionnelle et les préjudices réels causés par les systèmes d'IA.
  • Il cadre explicitement le biais comme un problème social et éthique nécessitant une surveillance, de la transparence et des audits, plutôt que comme une simple erreur statistique.

Conceptions transversales :
L'étude identifie deux conceptions primaires, souvent conflictuelles, du biais :

1. Technique : Le biais comme une divergence statistique ou un paramètre de performance à minimiser ou à ajuster.
2. Sociotechnique : Le biais comme une conséquence sociale de la conception d'algorithmes, impliquant la discrimination, les dynamiques de pouvoir et les implications éthiques.

4. Contributions clés

• Échelle et portée : Il s'agit de la première étude utilisant des méthodes computationnelles pour recenser de manière exhaustive la littérature sur le biais de l'IA, analysant 6 520 articles contrairement aux revues précédentes qui en analysaient moins de 60.
• Taxonomie du biais : L'étude fournit une cartographie granulaire de 18 sujets de recherche distincts, révélant que la communauté de l'IA ne possède pas une vision unifiée du biais.
• Identification de la divergence : La recherche met en évidence une tension critique où certaines sous-communautés voient le biais comme un « paramètre ajustable » pour améliorer les performances (par exemple, dans l'optimisation et la vision par ordinateur), tandis que d'autres le voient strictement comme un défaut éthique à éliminer.
• Analyse des lacunes : L'étude démontée que les typologies de biais existantes (par exemple, biais historique, de représentation, de mesure) sont insuffisantes pour capturer tout le spectre de la manière dont le biais est conceptualisé dans la recherche actuelle, particulièrement concernant le « biais comme caractéristique de conception » et les manifestations spécifiques aux domaines.

5. Signification et affirmations

Les auteurs soutiennent que la communauté de recherche en IA doit s'engager plus efficacement avec le concept de biais pour établir une compréhension cohérente. La portée de l'article réside dans sa démonstration que le biais n'est pas uniquement un problème technique soluble par des méthodes computationnelles ou statistiques.

• Recadrage du discours : L'article affirme que si l'atténuation technique est nécessaire, elle est insuffisante. Une perspective sociotechnique est requise pour traiter les facteurs contextuels, sociaux et éthiques qui façonnent les systèmes d'IA biaisés.
• Appel au dialogue : Les conclusions suggèrent la nécessité d'un dialogue intercommunautaire pour combler le fossé entre les chercheurs qui voient le biais comme un paramètre statistique et ceux qui le voient comme une source de préjudice social.
• Agentivité éthique : L'étude positionne la communauté de recherche en IA comme des « agents éthiques » dont les définitions et les traitements du biais influencent directement le développement et l'implémentation des systèmes d'IA dans des contextes à enjeux élevés.
• Limites modestes : Les auteurs reconnaissent que leur dépendance aux résumés (plutôt qu'aux textes intégraux) et aux publications en langue anglaise peut limiter la profondeur de certaines nuances, notamment dans les contextes cliniques, et que la modélisation de sujets reflète intrinsèquement la logique du corpus plutôt qu'une focalisation parfaite sur le concept de biais.

En conclusion, l'article affirme que réduire le biais à une simple définition statistique revient à ignorer la nature complexe, dynamique et spécifique au domaine de cette question. Une atténuation efficace nécessite une approche multidisciplinaire intégrant les solutions techniques à des perspectives sociotechniques plus larges.