Voices in the Loop: Mapping Participatory AI

Résumé technique : Voix dans la boucle : Cartographier l'IA participative

Énoncé du problème
Les approches participatives de l'intelligence artificielle (IA) sont de plus en plus documentées dans les secteurs public, civique et humanitaire. Cependant, la base de preuves concernant la manière dont ces participations sont organisées reste fragmentée. La documentation est dispersée sur des sites web de projets, des publications académiques, des portails gouvernementaux et la littérature grise, caractérisée par une terminologie hétérogène et des rapports de métadonnées incohérents. Cette fragmentation entrave la recherche comparative, freine l'apprentissage intersectoriel et empêche les communautés et les décideurs politiques d'identifier des précédents pertinents. De plus, la documentation existante échoue souvent à distinguer les revendications éthiques aspirantes des mécanismes documentés d'influence décisionnelle, conduisant à un « participation-washing » ou à un engagement extractif. Il manque une infrastructure systématique et reproductible pour cartographier, vérifier et contester les initiatives d'IA participative.

Méthodologie
L'article présente la construction d'un dépôt ouvert et d'un atlas interactif contenant 131 initiatives d'IA participative. La méthodologie implique un protocole reproductible pour la découverte, la vérification, l'harmonisation et la publication basée sur des versions.

• Sources de données : Le corpus intègre 95 projets du corpus « IA digne de confiance » de Magaña et Shilton et 36 cas supplémentaires audités tirés de la documentation de recherche et de pratique.
• Définition opérationnelle : Un « projet d'IA participative » est défini comme une initiative qui (1) développe, déploie ou maintient un système habilité par l'IA (utilisant l'apprentissage automatique ou l'inférence statistique) et (2) inclut un mécanisme documenté permettant aux parties prenantes concernées d'influencer les décisions relatives à la définition du problème, à la gouvernance des données, au développement du modèle, au déploiement ou à la surveillance. Les projets utilisant l'IA uniquement pour la consultation ou la traduction sans gouverner le système d'IA lui-même sont exclus.
• Découverte et vérification : Le protocole emploie des recherches par mots-clés, une expansion de réseau et des requêtes ciblées par domaine. La vérification exige un composant d'IA identifiable et un mécanisme de participation documenté avec des preuves publiques. Les cas limites sont conservés si les artefacts de gouvernance (par exemple, les entrées de registre municipal, les conditions de licence de données) impliquent une participation.
• Extraction et harmonisation : Les enregistrements sont standardisés pour inclure des noms canoniques, des URL de provenance et des champs de métadonnées harmonisés. Les dimensions clés extraites incluent le lieu de la participation, les rôles des parties prenantes, l'influence décisionnelle, les artefacts de documentation et le contexte institutionnel.
• Géocodage et sensibilité : Les données de localisation sont résolues en coordonnées au niveau de la ville ou du pays lorsque cela est possible, les traitant comme des ancres approximatives pour éviter d'exposer des sites opérationnels sensibles. Le dépôt exclut les données personnelles, enregistrant les rôles des parties prenantes uniquement au niveau organisationnel ou collectif.
• Gouvernance et gestion des versions : Le dépôt est conçu comme une infrastructure « vivante ». Il utilise des versions avec des instantanés d'archivage pour assurer des citations stables. Il inclut des mécanismes pour les corrections liées aux enregistrements, les contestations, les annotations et les demandes de suppression, traitant l'atlas lui-même comme un artefact participatif.

Contributions principales
L'article apporte trois contributions principales :

1. Protocole reproductible : Un protocole spécifié pour la découverte, la vérification, l'harmonisation, le géocodage, le suivi de la provenance et la publication basée sur des versions des enregistrements d'IA participative. Cela inclut la déduplication et le classement des preuves.
2. Corpus empirique et atlas : Un atlas interactif et versionné de 131 projets qui opérationnalise un cadre de conception et de gouvernance. Il fournit un inventaire vivant qui peut être mis à jour, contesté et réutilisé, soutenant la recherche comparative et l'apprentissage politique.
3. Cadre de gouvernance : Une proposition d'infrastructures d'IA « participatives par défaut ». Ce cadre synthétise les leçons des registres d'algorithmes publics et de la gouvernance des données autochtones, traitant la participation non pas comme une couche optionnelle mais comme une propriété par défaut des infrastructures médiatisant la collecte de données et la responsabilité publique. Il met l'accent sur la provenance vérifiable, la contestabilité et les droits communautaires.

Résultats et modèles empiriques
L'analyse du corpus de 131 enregistrements révèle quatre modèles clés :

• Concentration géographique : Les initiatives documentées sont fortement concentrées dans un petit nombre de juridictions. L'Amérique du Nord (38 projets) et l'Europe (27 projets) dominent, les États-Unis (35), le Royaume-Uni (16), le Canada (13) et le Kenya (7) représentant la majorité des enregistrements par pays unique. Cette concentration reflète à la fois l'activité sous-jacente et la récupérabilité de la documentation dans les écosystèmes web de langue anglaise et allemande.
• Niveaux de participation et lieux du cycle de vie : La participation est le plus souvent codée aux niveaux de la formulation du problème (85 projets), de la gouvernance (72) et de l'évaluation (57). À l'inverse, la participation au développement du modèle (9) et à l'entraînement (16) est rare. Les niveaux de participation dominants sont les initiatives dirigées par la communauté (39), la co-conception (26) et la gouvernance participative (22).
• Formes organisationnelles : Les initiatives sont principalement dirigées par des universités/laboratoires de recherche et des organisations à but non lucratif/ONG, opérant souvent par le biais d'arrangements institutionnels hybrides plutôt que de frontières claires entre entreprises ou agences. Le domaine est récent, 124 des 131 enregistrements ayant commencé en 2018 ou plus tard.
• Lacunes de documentation : Bien que les champs principaux (mode de participation, étapes du cycle de vie) soient complets, des lacunes importantes existent dans les années de fin (disponibles pour seulement 22,1 % des enregistrements) et les organismes partenaires (72,5 %). La provenance est hautement fragmentée, tirée de 107 domaines distincts, indiquant un manque de registres centralisés durables. Les grades de preuve varient, 25 enregistrements étant marqués comme « vérifiés indirectement » et 24 comme « candidats à l'examen », soulignant la qualité inégale de la documentation publique.

Signification et revendications
L'article affirme que le défi central de l'IA participative n'est pas seulement de localiser les initiatives, mais de les documenter d'une manière qui maintient les revendications ouvertes à l'examen, à la correction et à la réutilisation. La signification de ce travail réside dans le déplacement de l'attention des catalogues statiques vers la gestion des infrastructures.

• Du catalogue à l'infrastructure : L'atlas est présenté non pas comme un index neutre, mais comme un instrument de gouvernance. En rendant explicites l'incertitude, le désaccord et la provenance, il permet l'évaluation critique des revendications de participation.
• Adresser les biais : Les auteurs reconnaissent que le corpus reflète les biais de la documentation recherchable en langue anglaise. Le cadre proposé traite la récupérabilité comme un objet de gestion, exigeant une intake multilingue, une curation régionale et une révision communautaire rémunérée pour réduire les fardeaux de rapports extractifs.
• Politique et pratique : Le travail suggère que les mandats de transparence devraient évoluer pour inclure des exigences de rapport sur la participation (lieu, mécanisme, participants, influence décisionnelle) plutôt que de simples modèles techniques. Pour la pratique, l'atlas sert de ressource pour réduire le travail dupliqué et soutenir la réutilisation des modèles de documentation.

L'article conclut qu'un atlas vivant ne peut soutenir la recherche et l'apprentissage politique que s'il est gouverné comme un artefact participatif en soi, avec des mécanismes de contribution, d'annotation et de résolution de conflits intégrés à sa conception de base.