Can Data Work be Reparative?
Cette étude ethnographique soutient que la réorientation du travail sur les données à travers une approche féministe et collaborative, centrée sur celles et ceux qui sont le plus touchés par les préjudices en ligne, est essentielle pour parvenir à une justice réparatrice dans l'IA, exigeant une remise à zéro fondamentale des liens de responsabilité et une gouvernance collective des ensembles de données.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'idée principale : Réparer la chaîne de montage cassée
Imaginez que vous construisez un robot géant et super intelligent (une IA) qui doit apprendre à comprendre le langage humain, en particulier lorsque les gens sont méchants ou nuisibles en ligne. Pour enseigner cela au robot, vous avez besoin d'une immense bibliothèque d'exemples (un ensemble de données ou "dataset").
Habituellement, cette bibliothèque est construite sur une chaîne de montage cassée. Les entreprises embauchent des milliers de travailleurs pour cliquer sur des boutons et étiqueter des mots. Ces travailleurs sont souvent très peu payés, traités comme des rouages interchangeables dans une machine, et forcés de regarder du contenu terrible et toxique sans aucun soutien. Les personnes qui savent réellement ce que la souffrance représente — les victimes et les experts — sont rarement celles qui construisent la bibliothèque.
Cet article pose une grande question : Pouvons-nous reconstruire cette chaîne de montage pour qu'elle ne se contente pas de produire des données, mais qu'elle répare réellement le mal causé par l'ancienne méthode ?
Les auteurs ont étudié un groupe appelé Tattle Civic Tech en Inde pour voir si cela est possible. Ils ont découvert que, bien que ce soit difficile, il existe une voie à suivre.
L'histoire de Tattle : La « Cuisine communautaire » contre la « Usine de Fast-Food »
Considérez la manière traditionnelle de fabriquer des données pour l'IA comme une Usine de Fast-Food.
- Le processus : Vous recevez un menu de tâches (étiquette ce tweet comme « mauvais »). Vous le faites rapidement, seul, pour quelques centimes.
- Le résultat : La nourriture (les données) est standardisée, mais elle a souvent un mauvais goût parce que les chefs n'ont pas compris la culture locale ou la douleur spécifique des clients.
Maintenant, regardez ce que Tattle essaie de faire. Ils gèrent une Cuisine communautaire.
- Le processus : Au lieu d'embaucher des inconnus pour cliquer sur des boutons, ils invitent des personnes qui ont réellement vécu le harcèlement en ligne, les discours de haine ou la violence basée sur le genre. Il s'agit de travailleurs sociaux, de journalistes, de militants et de psychologues.
- La méthode : Ils ne se contentent pas de leur demander d'étiqueter des données. Ils s'assoient ensemble (dans des ateliers virtuels) pour discuter de pourquoi un mot est blessant, de ce que l'on ressent et de quel contexte manque. Ils cuisinent les données ensemble.
- L'objectif : Créer un ensemble de données qui comprend véritablement les nuances de la violence dans les langues indiennes, plutôt que de simplement traduire des règles anglaises dans une autre culture.
Les deux grands obstacles (les « tensions »)
Même si Tattle essaie de bien faire, ils se heurtent à deux murs majeurs. L'article soutient que la résolution de ces murs est la clé d'un travail « réparateur ».
1. Le problème de la fiche de paie : « Expertise vs Travail manuel »
Dans l'ancien système, les travailleurs de données sont payés comme des ouvriers d'usine. Dans la cuisine de Tattle, les contributeurs sont des experts dotés d'une expérience vécue profonde.
- Le conflit : Tattle veut les payer comme des experts (ce qui coûte plus cher), mais l'industrie de l'IA est habituée à payer des centimes.
- La réalité : Certains contributeurs sont des universitaires fortunés qui voient cela comme un « don » à la société. D'autres sont des travailleurs indépendants qui ont besoin d'argent pour manger. Tattle a essayé de payer tout le monde à un taux élevé et équitable (environ 10 fois le standard de l'industrie), mais ils ont quand même rencontré des difficultés.
- La leçon : Vous ne pouvez pas prétendre valoriser l'expérience vécue des gens comme une « connaissance experte » si vous les payez au salaire minimum. Le véritable travail de réparation signifie payer les gens à la hauteur de la valeur réelle de leur expertise, même si cela rend le projet plus coûteux.
2. Le problème de la propriété : « Qui possède la recette ? »
Dans l'ancien système, une fois les données créées, la grande entreprise technologique en est propriétaire pour toujours. Elle peut les utiliser comme elle le souhaite, même si elle ignore les personnes qui ont aidé à les créer.
- Le conflit : Les contributeurs de Tattle s'inquiètent : « Si nous donnons ces données à de grandes entreprises technologiques (comme Instagram ou X), vont-elles les utiliser pour nous aider réellement, ou vont-elles simplement les prendre et nous ignorer à nouveau ? »
- La réalité : La plupart des contributeurs estimaient que la sécurité en ligne n'était qu'une petite partie de leurs luttes plus larges (comme la violence physique ou la discrimination de caste). Ils étaient prêts à donner les données aux grandes entreprises car ils sentaient que c'était le seul moyen d'obtenir des résultats, même si cela semblait injuste.
- La leçon : L'article soutient que nous avons besoin d'une nouvelle forme de gouvernance. Il ne s'agit pas seulement de savoir qui possède les données ; il s'agit de savoir qui décide de la façon dont elles sont utilisées. Si les personnes qui ont subi le préjudice n'ont pas leur mot à dire sur les règles, le travail n'est pas véritablement « réparateur ».
Le message central : Réinitialiser la « Responsabilité »
Les auteurs utilisent le concept de « Justice réparatrice ».
- L'ancienne façon : « Nous avons réparé le robot. Nous avons ajouté plus de données. C'est fini. »
- La façon réparatrice : « Nous avons réparé le robot, mais nous avons aussi réparé la relation entre les créateurs du robot et les personnes qui ont été blessées. »
L'article conclut que le travail sur les données peut être réparateur uniquement si nous cessons de faire de l'IA ou de l'ensemble de données les personnages principaux. Au lieu de cela, nous devons placer les personnes qui ont été lésées au centre.
C'est comme réparer un pont brisé.
- L'ancienne façon : Verser simplement plus de béton (données) sur les fissures.
- La façon réparatrice : Demander aux personnes qui sont tombées à travers le pont ce qui s'est passé, les payer pour leur temps afin de les aider à réparer, et leur donner les clés du chantier pour s'assurer que cela ne se reproduise plus.
Résumé
L'article soutient que pour rendre l'IA véritablement sûre et équitable, nous devons cesser de traiter les travailleurs de données comme des machines invisibles. Nous devons :
- Les payer comme des experts qui détiennent des connaissances précieuses, et non comme de simples ouvriers.
- Leur donner une voix dans la manière dont leurs données sont utilisées et gouvernées.
- Se concentrer sur les personnes qui ont été blessées par la technologie, en faisant d'elles le centre de la solution plutôt que de simples sources de données.
C'est une vision audacieuse. Elle suggère que le chemin vers une « IA responsable » ne dépend pas seulement d'un meilleur code, mais de relations humaines meilleures, plus justes et plus authentiques.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.