Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research

Imaginez un monde où les ordinateurs peuvent écrire des histoires, générer des images et répondre à des questions avec la facilité d'une conversation humaine. Cette technologie, connue sous le nom d'intelligence artificielle générative, passe rapidement de la science-fiction aux écoles, aux hôpitaux et aux lieux de travail. Mais alors que ces outils font partie de la vie quotidienne, une question cruciale se pose : qui servent-ils, et qui laissent-ils de côté ? Depuis des décennies, les chercheurs savent que les systèmes informatiques peuvent apprendre les préjugés de leurs créateurs, traitant souvent les personnes de couleur de manière injuste. Cette nouvelle étude pose une question plus profonde sur la façon dont nous parlons de ces problèmes. Elle examine deux groupes de personnes différents qui tentent de résoudre ces questions : les journalistes et les leaders communautaires écrivant dans l'actualité, et les scientifiques publiant des articles dans des revues académiques. Les chercheurs voulaient voir si ces deux groupes regardaient le même problème de la même manière, ou s'ils parlaient des langues totalement différentes.

L'étude, menée par une équipe de chercheurs et de spécialistes de l'industrie, s'est donné pour mission de comparer la façon dont le public comprend les dangers de l'intelligence artificielle pour les communautés noires par rapport à la manière dont les scientifiques étudient ces mêmes dangers. Ils ont rassemblé deux grandes collections de textes pour les analyser. La première collection consistait en 28 ressources publiques, telles que des articles de presse, des tribunes et des rapports de groupes de réflexion, qui représentent la façon dont le public et les médias discutent de ces questions. La seconde collection était une revue systématique de 91 articles scientifiques publiés dans les principales conférences d'informatique entre 2010 et 2025. L'équipe a utilisé une méthode appelée analyse de cadrage pour lire ces textes. Cette approche ne se contente pas de compter les mots ; elle examine comment une histoire est construite. Elle pose quatre questions spécifiques : Comment le problème est-il défini ? Qu'est-ce qui est identifié comme la cause ? Quel est le jugement moral de la situation ? Et quelle solution est proposée ? En appliquant cette lentille à la fois à l'actualité et à la science, les chercheurs ont pu cartographier précisément là où les deux mondes convergent et là où ils divergent.

Les résultats révèlent un décalage significatif entre la façon dont le public perçoit le problème et la façon dont les chercheurs tentent de le résoudre. Dans le discours public, l'histoire est claire et structurelle. Lorsque les journalistes et les leaders communautaires discutent des préjudices causés par l'intelligence artificielle, ils pointent presque toujours vers des racines historiques profondes. Ils décrivent le problème comme le résultat de siècles de racisme systémique et de politiques injustes qui ont façonné la société. Leurs solutions proposées sont tout aussi larges, appelant à des réglementations gouvernementales, des changements dans les pratiques d'embauche et de nouvelles lois pour protéger les communautés. Ils voient la technologie comme un miroir reflétant une société brisée, et ils soutiennent que réparer le miroir nécessite de réparer la société elle-même.

En revanche, la littérature scientifique raconte une histoire différente, beaucoup plus étroite. Les chercheurs ont constaté que la grande majorité des 91 articles académiques se concentraient presque exclusivement sur des correctifs techniques. Lorsque les scientifiques identifiaient un problème, ils ne cherchaient que rarement dans l'histoire ou la société la cause de celui-ci. Au lieu de cela, ils pointaient du doigt les données utilisées pour entraîner les modèles informatiques. Ils soutenaient que le biais existait parce que les données d'entraînement étaient défectueuses. Par conséquent, leurs solutions étaient presque entièrement techniques : ils proposaient de créer de meilleurs ensembles de données, d'écrire un nouveau code pour détecter les erreurs ou d'ajuster les algorithmes. Tandis que le discours public appelait aux lois et au changement sociétal, les articles scientifiques appelaient à une meilleure ingénierie. L'étude suggère que ce n'est pas un accident ou un simple différend d'opinion. Cela indique plutôt que la communauté scientifique s'est largement arrêtée avant d'aborder les conditions structurelles plus profondes qui permettent au biais d'exister en premier lieu.

La découverte la plus frappante fut peut-être ce sur quoi les deux groupes étaient d'accord, et ce qu'ils avaient tous deux manqué. Les articles de presse et les articles scientifiques étaient tous deux d'accord sur le fait que le préjudice le plus visible était le « préjudice de représentation ». Cela fait référence à la façon dont ces systèmes déforment ou effacent l'identité noire, comme la génération d'images de personnes noires avec une peau plus claire ou l'utilisation de stéréotypes dans le texte. Parce que les deux groupes se sont concentrés si intensément sur ce type spécifique de préjudice, ils ont tous deux proposé des solutions visant à rendre les images et les mots plus précis. Cependant, ce faisant, les deux groupes ont largement ignoré une perspective cruciale : l'idée que les communautés noires devraient être celles qui dirigent la conception et la prise de décision de ces technologies. L'étude a révélé que dans l'actualité, les personnes noires étaient souvent dépeintes comme des victimes ayant besoin de protection, tandis que dans les articles scientifiques, elles étaient traitées comme des sujets à étudier ou des points de données à mesurer. Ni les journalistes ni les scientifiques n'ont systématiquement présenté les communautés noires comme les experts ou les architectes qui devraient décider de la manière dont ces outils puissants sont construits et gouvernés.

Les chercheurs soutiennent que ce focus partagé sur la représentation, bien qu'important, est un piège. En se concentrant uniquement sur la manière de rendre la technologie plus juste ou plus précise, les deux groupes passent à côté de l'image globale. Ils essaient de réparer le résultat de la machine sans remettre en question les règles qui régissent la création de la machine. L'étude suggère que le véritable progrès exige plus que de meilleures données ou de nouvelles lois ; il exige un changement fondamental de celui qui détient le pouvoir. Elle appelle à un avenir où les communautés noires ne sont pas seulement consultées comme une formalité, mais sont reconnues comme les autorités primaires sur ce que ces technologies doivent faire et comment elles doivent être utilisées. Tant que la communauté scientifique ne dépassera pas les ajustements techniques pour s'engager avec les réalités structurelles de la société, et tant que le discours public ne dépassera pas la vision des personnes noires comme des récipiendaires passifs de la technologie, l'écart entre la promesse de l'intelligence artificielle et la réalité de son impact restera béant. L'étude conclut que combler ce fossé nécessite une nouvelle façon de penser, une façon qui traite le savoir et l'expérience noirs non pas comme une variable à corriger, mais comme le fondement de la construction d'un avenir meilleur.