🤖 AI

AI Pluralism and the Worlds It Misses

Cet article soutient que le pluralisme de l'IA doit s'étendre au-delà de la simple représentation de valeurs diverses pour s'attaquer à l'« aplatissement ontologique », où les systèmes d'IA imposent des catégories techniques restrictives à des réalités complexes, et propose un cadre de « Gouvernance du cycle de vie pluraliste » afin de garantir l'inclusion épistémique et l'autorité procédurale tout au long du processus de développement de l'IA.

Auteurs originaux : Rashid Mushkani

Publié 2026-06-16

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Rashid Mushkani

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

L'idée centrale : Il ne s'agit pas seulement de « ce que » l'IA dit, mais de « comment » elle voit le monde

Imaginez que vous essayiez de décrire une rue animée à un robot. Vous pourriez dire : « Cette rue est un endroit où les voisins se rencontrent, un lieu où les enfants jouent, une zone risquée la nuit, un endroit calme pour la réflexion et une zone commerciale très fréquentée. »

L'article soutient que la plupart des systèmes d'IA actuels ne se contentent pas d'écouter ces différentes histoires ; ils forcent la rue à devenir une seule et unique chose pour que l'ordinateur puisse la comprendre. Ils pourraient décider que la rue est simplement « Sûre » ou « Dangereuse », ou « Inclusive » ou « Non inclusive ».

L'auteur appelle cela l'« aplatissement ontologique ».

La métaphore : Imaginez que vous preniez une sculpture riche et en 3D, faite d'argile, de bois et de verre, et que vous l'écrasiez contre un mur pour en faire un dessin en 2D. Le dessin est plus facile à mesurer et à copier, mais il perd la texture, la profondeur et le fait que l'objet était composé de nombreux matériaux différents.
Le problème : Quand l'IA « aplatit » le monde, elle transforme les expériences humaines complexes et désordonnées (comme la sécurité, le confort ou le sentiment d'appartenance) en catégories techniques simples et fixes. Même si l'IA vous donne plusieurs réponses différentes (le pluralisme), elle peut toujours utiliser la même carte aplatie pour trouver ces réponses.

L'argument central : Deux types de « pluralisme »

L'article affirme que nous devons distinguer deux choses :

Le pluralisme des résultats (Le « Quoi ») : L'IA vous donne de nombreuses réponses différentes.
- Analogie : Un menu de restaurant qui propose 50 plats différents.
- Le piège : Même s'il y a 50 plats, ils peuvent tous être fabriqués à partir du même ensemble d'ingrédients (la même vision « aplatie » du monde).
Le pluralisme procédural (Le « Comment ») : Les personnes affectées par l'IA décident quels sont les ingrédients et comment le menu est écrit.
- Analogie : Les clients peuvent dire au chef : « En fait, la "sécurité" ne devrait pas seulement signifier "absence de crime", elle devrait aussi signifier "se sentir accueilli". Changeons la recette. »

L'article soutient que les systèmes d'IA actuels possèdent souvent un pluralisme des résultats (beaucoup de réponses) mais manquent de pluralisme procédural (les gens ne peuvent pas changer les règles du jeu).

Les trois exemples concrets (Les « Cas »)

L'auteur a examiné trois projets spécifiques impliquant des rues urbaines et l'IA pour montrer où cela échoue :

Cas A (Le générateur d'images) : Une IA a été entraînée pour générer des images d'espaces publics « inclusifs ».
- Ce qui s'est passé : Les gens ont donné leur avis sur ce qu'ils aimaient. L'IA a appris à choisir les images « gagnantes ».
- L'aplatissement : L'IA a transformé des sentiments complexes en choix simples de type « J'aime ceci » contre « Je n'aime pas cela ». Elle a effacé les réponses du type « Je ne suis pas sûr » ou « Cela dépend », imposant un choix binaire là où une zone grise devrait exister.
Cas B (La carte de la rue) : Une IA a tenté de prédire quelles rues étaient « inclusives » à partir de photos.
- Ce qui s'est passé : Les gens ont évalué les rues. L'IA a appris à repérer des motifs dans les photos.
- L'aplatissement : L'IA a commencé à juger l'« inclusivité » uniquement sur ce qu'elle pouvait voir (comme de la peinture neuve ou des trottoirs larges). Elle a manqué l'aspect invisible, comme le fait de savoir si la communauté locale se sentait réellement en sécurité ou accueillie. Elle a remplacé un sentiment humain profond par un indice visuel superficiel.
Cas C (Le score de test) : Des chercheurs ont testé des modèles d'IA sur leur capacité à décrire des scènes urbaines.
- Ce qui s'est passé : Ils ont comparé les réponses de l'IA aux réponses humaines.
- L'aplatissement : Lorsque les humains n'étaient pas d'accord (par exemple : « Ce parc est-il sûr ? »), les chercheurs traitaient souvent ce désaccord comme du « bruit » ou une erreur. Mais l'article soutient que le désaccord est en réalité une donnée importante ! Cela montre que le concept est complexe, et non que l'humain a tort.

La solution : La gouvernance pluraliste du cycle de vie (PLG)

L'auteur propose une nouvelle façon de vérifier les systèmes d'IA, appelée Gouvernance Pluraliste du Cycle de Vie (PLG). Ne voyez pas cela comme un test qui donne un score (comme un bulletin scolaire), mais comme une liste de contrôle pour l'équité qui couvre toute la vie d'un projet d'IA.

Elle pose cinq grandes questions :

Le monde est-il ouvert au changement ? (Ouverture ontologique)
- Question : Les gens peuvent-ils contester les définitions ? Si l'IA qualifie quelque chose de « risqué », la communauté peut-elle dire : « Non, c'est en fait un lieu de refuge » ?
- Objectif : Les règles ne doivent pas être figées avant le début du projet.
Toutes les voix sont-elles entendues ? (Inclusion épistémique)
- Question : L'IA ne fait-elle confiance qu'aux données des « experts », ou fait-elle aussi confiance à l'expérience vécue des gens ordinaires ?
- Objectif : L'histoire d'une grand-mère sur une rue devrait compter comme une preuve, et pas seulement un relevé de capteur.
Les gens ont-ils un réel pouvoir ? (Autorité procédurale)
- Question : Est-ce qu'on demande simplement l'avis des gens (voix), ou ont-ils le pouvoir de dire « Arrêtez » ou « Changez cela » (pouvoir) ?
- Objectif : Passer de « Nous vous avons écoutés » à « Nous avons changé le plan grâce à vous ».
Le désaccord est-il visible ? (Pluralisme de l'évaluation)
- Question : Le rapport cache-t-il le fait que les gens n'étaient pas d'accord, ou montre-t-il la réalité désordonnée ?
- Objectif : Ne pas moyenner les réponses pour les rendre propres. Montrer les réponses « Je ne sais pas » et « Cela dépend ».
Qui est responsable plus tard ? (Responsabilité du cycle de vie)
- Question : Une fois l'IA lancée, qui peut la réparer si elle blesse quelqu'un ?
- Objectif : La responsabilité ne doit pas s'arrêter au moment de la sortie du logiciel. Il doit y avoir un moyen de mettre à jour les règles plus tard.

À retenir

L'article conclut que le pluralisme de l'IA ne consiste pas seulement à donner plus d'options à l'IA. Il s'agit de s'assurer que l'IA ne force pas la réalité complexe, désordonnée et magnifique de la vie humaine dans une boîte simple et rigide.

Si nous voulons que l'IA soit véritablement juste, nous ne pouvons pas simplement lui demander de donner 100 réponses différentes. Nous devons laisser les personnes affectées par l'IA aider à décider quelles sont les questions, et leur donner le pouvoir de changer les règles lorsque les réponses ne correspondent pas à leur monde.

Résumé technique : Le pluralisme de l'IA et les mondes qu'elle néglige

Énoncé du problème
Les cadres actuels du pluralisme de l'IA se concentrent principalement sur le pluralisme des valeurs : la représentation de diverses préférences, valeurs ou sorties d'utilisateurs. L'article soutient que ce cadrage est incomplet car les systèmes d'IA imposent également des ontologies — des engagements de représentation pratiques définissant ce qui existe, comment les entités sont liées, ce qui constitue une preuve et ce qui compte comme un résultat valide.

Le mode de défaillance central identifié est l'aplatissement ontologique. Cela se produit lorsque des significations situées, contestées, historiquement spécifiques et incarnées (le « monde de la vie » ou lifeworld) sont converties en catégories techniques restreintes, en proxys, en règles d'agrégation ou en cibles de référence (benchmarks) traitées comme neutres et difficiles à contester. Bien que les méthodes pluralistes puissent réussir à générer des sorties diverses ou à agréger des retours, elles opèrent souvent sur des ontologies fixes où les définitions des catégories et les règles d'agrégation restent hors de l'autorité des acteurs concernés. Cela résulte en un « pluralisme de résultat » (réponses diverses) coexistant avec un « monisme ontologique » (une seule et même façon de définir le monde).

Méthodologie
Cet article emploie une synthèse conceptuelle et qualitative bornée plutôt qu'une revue systématique ou une nouvelle expérience contrôlée. La méthodologie se compose de trois composantes primaires :

Cartographie conceptuelle : Un échantillonnage théorique ciblé de la littérature couvrant le pluralisme des valeurs, l'alignement pluraliste, l'IA participative, la justice procédurale, les sciences et technologies sociales (STS) et la recherche sur la responsabilité (accountability).
Entretiens d'experts : 11 entretiens semi-directifs confidentiels avec des experts en droit, en éthique et en IA. Ceux-ci ont été utilisés pour l'affinement des construits (par exemple, distinguer l'autorité procédurale de l'inclusion épistémique) plutôt que pour l'inférence statistique ou les affirmations de prévalence.
Analyse de cas : Analyse secondaire de trois manuscrits compagnons portant sur les systèmes urbains, les espaces publics et les systèmes basés sur la vision :
- Cas A : Un ensemble de données de génération d'espaces publics pluralistes utilisant l'optimisation de préférence directe (DPO) avec des critères définis par la communauté.
- Cas B : Un modèle de l'inclusivité des paysages urbains participatif utilisant des données d'entretiens et de groupes de discussion pour la modélisation prédictive.
- Cas C : Une évaluation de la fiabilité des modèles de langage-vision urbains par rapport aux annotations humaines.

L'analyse utilise une matrice à cinq codes (point d'entrée ontologique, gestion du désaccord, autorité/recours, limitation du proxy, continuation du cycle de vie) pour identifier les mécanismes d'aplatissement à travers le cycle de vie de l'IA (cadrage du problème, génération de données, étiquetage, entraînement, évaluation, déploiement et retrait).

Contributions clés
L'article apporte trois contributions distinctes :

Définition de l'aplatissement ontologique : Il définit cela comme un mode de défaillance spécifique où des entrées ou sorties pluralistes coexistent avec des ontologies fixes. Il distingue l'aplatissement du biais, de la mauvaise classification ou de l'échec du proxy en demandant si l'espace des étiquettes lui-même possède une autorité injustifiée et si les acteurs concernés ont la capacité de contester les engagements de représentation.
Distinction entre pluralisme de résultat et de procédure :
- Pluralisme de résultat : Systèmes qui produisent, orientent ou approchent des sorties diverses.
- Pluralisme de procédure : Systèmes où les acteurs concernés ont un droit de regard sur le cadrage du problème, les catégories, les preuves, l'agrégation, l'évaluation et la révision.
  L'article soutient que le pluralisme de résultat est insuffisant si le pluralisme de procédure est absent.
Gouvernance du cycle de vie pluraliste (PLG) : Un premier cadre d'audit qualitatif (non un instrument de notation validé) pour documenter cinq dimensions de l'IA pluraliste :
- Ouverture ontologique : La capacité de contester les catégories, les proxys et les métriques.
- Inclusion épistémique : L'admissibilité de multiples formes de connaissances (y compris l'expérience vécue) en tant que preuves.
- Autorité procédurale : Une participation qui inclut des droits de décision (par exemple, veto, pause, examen contraignant) plutôt que de simples avis consultatifs.
- Pluralisme de l'évaluation : La préservation du désaccord, de la neutralité, de l'abstention et des données de fiabilité plutôt que leur effacement.
- Responsabilité du cycle de vie : La persistance des engagements pluralistes à travers le déploiement, la surveillance, la révision et le déclassement.

Résultats et conclusions empiriques
L'analyse des trois cas illustre comment les méthodes pluralistes peuvent améliorer le comportement des modèles tout en compressant les catégories avant que les acteurs concernés n'aient un pouvoir procédural :

Cas A (Génératif) : Bien que des concepts communautaires aient été utilisés, l'objectif DPO a converti les jugements multicritères en préférences par paires binaires via un vote majoritaire. Les comparaisons neutres (indiquant l'ambiguïté ou les compromis) ont été préservées mais traitées comme un objectif résiduel plutôt que comme un état valide du monde, illustrant une « compression procédurale ».
Cas B (Prédictif) : Des étiquettes participatives ont été utilisées pour entraîner un modèle, mais les cartes de chaleur résultantes risquaient de substituer des esthétiques visibles à des significations situées (par exemple, l'accessibilité, l'appartenance). La structure de gouvernance ne permettait pas aux communautés de réviser la résolution de la carte ou d'interdire les usages punitifs.
Cas C (Évaluation) : Le benchmark rapportait la fiabilité et l'abstention, mais les étiquettes de consensus pouvaient encore masquer des sémantiques instables. L'étude a noté que les dimensions proches des attributs visibles étaient plus faciles à mesurer que les dimensions d'appréciation, et qu'un $\alpha$ de Krippendorff négatif indiquait un désaccord systématique qui devrait empêcher de traiter ces dimensions comme une vérité de terrain stable.

La synthèse conclut que le pluralisme est plus fragile là où un monde de la vie devient un objet technique. Si un système commence par des étiquettes fixes, la participation ultérieure ne peut que remplir les valeurs de ces étiquettes.

Signification et affirmations
L'article affirme que le pluralisme de l'IA doit traiter le pluralisme ontologique parallèlement au pluralisme des valeurs. Il soutient que la recherche actuelle sur l'alignement agrège souvent des jugements hétérogènes en un seul signal d'entraînement ou traite le désaccord comme du bruit, échouant ainsi à préserver des manières contestables de construire le monde.

La portée de ce travail réside dans le déplacement de l'attention de « combien de sorties » vers « qui définit l'ontologie ». Il postule qu'une abstraction légitime n'est possible que lorsque la compression est bornée, documentée, révisable et proportionnée, et que les acteurs concernés conservent le droit de contester le schéma lui-même. L'article ne prétend pas fournir un instrument validé pour noter les systèmes d'IA ; il propose plutôt un cadre pour rendre explicites les preuves et les conditions de gouvernance de l'IA pluraliste, arguant que sans un statut procédural sur l'ontologie, l'IA pluraliste risque de reproduire une vision du monde moniste sous couvert de diversité.