Algorithmic neutrality

Problème
Les algorithmes gouvernent de plus en plus des aspects critiques de la vie humaine, suscitant un vaste discours sur l'équité algorithmique. Cependant, le concept de neutralité algorithmique a été largement négligé malgré sa centralité dans la manière dont l'industrie technologique, le public et les décideurs politiques comprennent le monde numérique. Les géants de la technologie (par exemple, Google, Meta, Twitter) invoquent fréquemment la neutralité comme un bouclier contre la critique et comme un idéal à atteindre, tandis que les critiques soutiennent qu'aucun algorithme n'est moralement neutre. L'article identifie un manque d'étude systématique concernant la définition, la possibilité et la signification normative de la neutralité algorithmique. Plus précisément, l'auteur pose les questions suivantes : Qu'est-ce que la neutralité algorithmique ? Est-elle possible ? Et quelle est sa signification normative ?

Méthodologie
L'article emploie une analyse conceptuelle fondée sur la philosophie de la technologie et de l'éthique. L'auteur procède à travers les étapes méthodologiques suivantes :

1. Approche par étude de cas : L'analyse se concentre principalement sur les moteurs de recherche en tant qu'étude de cas paradigmatique avant de se généraliser aux systèmes algorithmiques de manière large.
2. Définition conceptuelle : L'auteur définit la neutralité en adaptant le cadre de la « neutralité dans la science ». Tout comme la neutralité scientifique exige que les valeurs non épistémiques (par exemple, les intérêts financiers, les idéologies politiques) ne jouent aucun rôle dans les pratiques scientifiques fondamentales (qui visent la vérité), la neutralité algorithmique est définie en termes de l'objectif d'un système.
3. Argumentation par la multidimensionnalité : L'auteur soutient que les objectifs de nombreux systèmes algorithmiques (tels que la « pertinence » dans la recherche ou la « qualification » dans l'embauche) sont des concepts multidimensionnels. S'appuyant sur la littérature concernant l'incomparabilité (par exemple, Sen, Parfit), l'auteur postule que lorsqu'un concept possède plusieurs dimensions sans pondération privilégiée, l'objectif sous-détermine le résultat du système.
4. Distinction des rôles : L'analyse distingue deux rôles que peuvent jouer les valeurs externes : supplanter un objectif (classer un résultat moins pertinent plus haut) et compléter un objectif (trancher les égalités ou pondérer les dimensions lorsque l'objectif lui-même est insuffisant).

Contributions clés

1. Définition de la neutralité algorithmique : L'article caractérise la neutralité algorithmique non pas comme une absence de valeurs, mais comme une relation spécifique entre l'objectif d'un système et les valeurs externes. Un système algorithmique est neutre seulement si des valeurs extérieures à son objectif ne jouent aucun rôle dans la manière dont il délivre des résultats. Pour les moteurs de recherche, où l'objectif est la pertinence, la neutralité exige qu'aucune valeur autre que la pertinence n'influence le classement.
2. La thèse de l'impossibilité : L'auteur démonte que la neutralité algorithmique est impossible pour les moteurs de recherche et la plupart des systèmes algorithmiques puissants. Parce que les objectifs tels que la « pertinence » ou la « qualification » sont multidimensionnels, ils sous-déterminent la manière de classer ou de classifier les éléments. Dans les cas d'incomparabilité (où deux options ne sont pas strictement meilleures ou pires que l'autre à travers toutes les dimensions), les valeurs externes doivent jouer un rôle pour trancher l'égalité. Par conséquent, les valeurs externes complètent nécessairement l'objectif.
3. Réévaluation normative : L'article soutient que la neutralité est un faux idéal et un bouclier défectueux.
   • Faux idéal : La neutralité n'est ni intrinsèquement bonne ni mauvaise. La signification normative ne réside pas dans le fait de savoir si un système est neutre, mais dans quelles valeurs externes jouent un rôle et quel rôle elles jouent (supplanter vs compléter).
   • Bouclier défectueux : Il est conceptuellement incohérent pour les entreprises de revendiquer la neutralité comme défense, car la vraie neutralité est impossible. De plus, même si un système est « localement neutre » (par exemple, neutre concernant les valeurs politiques), il peut néanmoins désavantager certains groupes en raison de la pondération nécessaire des dimensions (par exemple, pondérer la « saillance » peut désavantager des entités plus petites).
4. Affinement du biais : L'article distingue entre le biais de supplantation (les valeurs externes supplantent l'objectif) et le biais de complémentarité (les valeurs externes complètent l'objectif). Si le biais de supplantation est évitable et souvent contestable, le biais de complémentarité est inévitable. Cependant, les plaintes concernant les valeurs qui complètent l'objectif restent valides et nécessaires.

Résultats

• La neutralité de la recherche est impossible : En raison de la nature multidimensionnelle de la pertinence, les moteurs de recherche ne peuvent pas classer les pages en se basant uniquement sur la pertinence. Ils doivent inévitablement utiliser des valeurs externes pour pondérer les dimensions (par exemple, la saillance, l'objet) lorsque les pages sont incomparables.
• Neutralité globale vs locale : La « neutralité globale » (aucune valeur de quelque type que ce soit ne joue de rôle) est impossible. La « neutralité locale » (aucune valeur d'un type spécifique, telle que l'idéologie politique, ne joue de rôle) est possible mais insuffisante pour répondre à toutes les plaintes d'iniquité, car la pondération nécessaire des dimensions peut toujours produire des impacts disparates.
• Changement normatif : Le débat devrait passer de « L'algorithme est-il neutre ? » à « Quelles valeurs devraient jouer un rôle, et comment ? ». Par exemple, il peut être normativement bon pour un moteur de recherche de supplanter la pertinence pour protéger les enfants (supprimer la pornographie infantile) ou de compléter la pertinence pour promouvoir la justice sociale (classer plus haut les entreprises appartenant à des minorités dans les cas d'égalité). Inversement, il est souvent injuste pour un monopole de supplanter la pertinence avec des intérêts financiers.

Signification
L'article affirme que la neutralité algorithmique est un faux idéal et un bouclier défectueux.

• En tant que faux idéal, poursuivre la neutralité pour elle-même aveugle les parties prenantes aux véritables questions normatives : déterminer quelles valeurs devraient guider les résultats algorithmiques et dans quelle mesure l'objectif primaire du système vaut la peine d'être poursuivi.
• En tant que bouclier défectueux, la neutralité est une défense creuse pour les entreprises technologiques lorsqu'elles sont accusées de méfaits, car (1) la vraie neutralité est conceptuellement impossible pour ces systèmes, et (2) la neutralité elle-même n'est pas intrinsèquement vertueuse. L'article conclut que l'attention doit se détourner de la binarité neutralité/non-neutralité vers une analyse nuancée des rôles spécifiques que jouent les valeurs externes dans la prise de décision algorithmique.