Ethics in Online Software Experimentation: A Body of Knowledge and the Cactus Model

Dans le monde numérique, les entreprises peaufinent constamment leurs logiciels pour les rendre meilleurs, plus rapides ou plus attrayants. Elles peuvent changer la couleur d'un bouton, réorganiser un menu ou tester une nouvelle façon d'afficher les prix. Pour voir si ces changements fonctionnent, elles organisent souvent ce que l'on appelle des expériences en ligne. Lors de ces tests, de vraies personnes utilisent le logiciel sans toujours savoir qu'elles font partie d'une étude. Une méthode courante consiste à montrer à un groupe d'utilisateurs la version A d'une fonctionnalité et à un autre groupe la version B, puis à comparer leur comportement. Cette approche aide les entreprises à apprendre ce que les gens veulent, mais elle place aussi les utilisateurs ordinaires dans une situation où leurs choix et leurs données sont manipulés pour tester une hypothèse. Si cette pratique stimule l'innovation, elle soulève une question discrète mais sérieuse : ce n'est pas parce qu'une entreprise peut mener ces tests qu'elle le doit ; et si elle le fait, comment peut-elle s'assurer de ne pas nuire aux personnes qui rendent le logiciel possible ?

Deux chercheurs du Brésil se sont donné pour mission de répondre à ces questions en examinant le côté éthique de ces tests numériques. Ils ont remarqué que, bien que de nombreuses entreprises mènent ces expériences, les règles concernant le traitement équitable des personnes sont souvent vagues, éparpillées ou totalement ignorées. Les chercheurs voulaient construire un guide clair que les équipes de logiciels pourraient réellement utiliser. Ils ne se sont pas contentés d'énumérer des idées abstraites sur le bien et le mal ; au lieu de cela, ils ont rassemblé des problèmes spécifiques qui surviennent lors de ces tests et les ont associés à des moyens pratiques de les résoudre. Leur objectif était de créer un modèle (le Modèle Cactus) qui aide les experts à réfléchir aux conséquences morales de leurs expériences avant même de lancer le moindre test.

Pour construire ce guide, les chercheurs ont examiné un large éventail d'informations existantes. Ils ont commencé par rechercher des études portant spécifiquement sur l'éthique dans l'expérimentation continue et en ligne, mais ils ont trouvé très peu d'écrits sur le sujet. Réalisant que le problème était trop vaste pour être résolu avec ces quelques articles, ils ont élargi leur recherche. Ils ont étudié les règles éthiques de domaines connexes comme l'intelligence artificielle, l'informatique générale et même la recherche médicale. Ils ont lu des codes de conduite, des directives techniques et des articles académiques pour identifier des thèmes communs. De cette vaste collection de sources, ils ont identifié seize principes éthiques clés, tels que l'honnêteté, l'équité et le respect de la capacité d'une personne à choisir par elle-même. Ils ont ensuite creusé plus profondément pour trouver quarante-huit façons spécifiques dont ces principes sont violés dans le monde réel. Par exemple, une violation pourrait consister à cacher le véritable but d'un test à un utilisateur, ou à concevoir un système qui trompe les gens pour les inciter à prendre des décisions néfastes pour eux.

Une fois ces problèmes répertoriés, les chercheurs ont trouvé cinquante-trois façons de les résoudre. Ils ne se sont pas contentés de les laisser sous forme de liste aléatoire ; ils les ont tous connectés entre eux. Ils ont montré quelle solution spécifique corrige quel problème précis, et comment cette solution soutient le principe éthique sous-jacent. Cela a créé une carte structurée des connaissances. C'est un outil qui dit : « Si vous voyez ce problème, voici l'action spécifique que vous devez entreprendre, et voici la valeur qu'elle protège. » Cette carte est le fondement de leur principale contribution, une nouvelle façon de penser ces tests appelée le Modèle Cactus.

Le Modèle Cactus est conçu pour aider les responsables de ces expériences à prendre de meilleures décisions. Le nom vient de l'idée du cactus, une plante robuste qui survit dans des conditions difficiles grâce à une couche protectrice externe. De la même manière, le modèle fournit une structure protectrice pour la prise de décision éthique dans le monde rapide et sous haute pression du développement de logiciels. Il ne dit pas exactement à une équipe quoi faire, mais il lui donne une méthode étape par étape pour réfléchir aux conséquences de ses choix. Le modèle est construit sur quatre couches qui travaillent ensemble.

La première couche consiste à examiner attentivement l'expérience pour identifier les problèmes potentiels. L'équipe se demande : « Qu'est-ce qui pourrait mal tourner ? » Elle utilise la carte des problèmes éthiques pour vérifier sa conception. Elle peut se demander si le test est transparent, s'il traite tous les utilisateurs de manière équitable ou s'il respecte la liberté de l'utilisateur de dire non. Elle évalue la probabilité qu'un problème survienne et le nombre de personnes qu'il pourrait affecter. Cette étape transforme les inquiétudes vagues en problèmes spécifiques et identifiables.

La deuxième couche consiste à peser les conséquences. Ici, l'équipe examine les problèmes identifiés et se demande : « Pourquoi voudrions-nous les ignorer ? » Souvent, il existe une raison commerciale, comme économiser du temps ou gagner plus d'argent, qui tente une équipe de sauter les garanties éthiques. Le modèle les force à noter cette tentation, puis à la comparer directement au préjudice qu'elle pourrait causer. Ils examinent l'impact sur la confiance des utilisateurs, leur vie privée et leur bien-être. Cette étape garantit que la décision de procéder n'est pas seulement un sentiment intuitif, mais un choix raisonné où les compromis sont clairs.

La troisième couche consiste à passer à l'action. Une fois que l'équipe a pesé les risques et les bénéfices, elle décide de ce qu'elle va faire. Elle peut choisir de mener l'expérience telle qu'elle était prévue, de modifier la conception pour corriger les problèmes, ou d'annuler l'expérience entièrement. Si elle décide de procéder, le modèle la guide pour choisir des solutions spécifiques dans sa carte afin de protéger les utilisateurs. Par exemple, si elle a identifié un risque de traitement injuste, elle peut ajouter une règle pour garantir que tous les groupes d'utilisateurs sont traités de manière égale. Cette étape transforme leur raisonnement éthique en changements concrets dans le logiciel ou le processus d'expérimentation.

La dernière couche consiste à tirer des leçons de l'expérience. Une fois l'expérience terminée, l'équipe regarde en arrière sur ce qui s'est passé. Elle examine les choix qu'elle a faits et voit si ses prédictions étaient exactes. Elle note ce qu'elle a appris afin que, la prochaine fois qu'elle lance un test, elle puisse le faire mieux. Cette étape est cruciale car elle transforme une expérience isolée en une leçon pour toute l'organisation, l'aidant à éviter les mêmes erreurs à l'avenir.

Les chercheurs ont testé ce modèle avec un exemple concret impliquant une application de livraison qui voulait tester différentes stratégies de prix. Ils ont montré comment une équipe pourrait utiliser le modèle pour identifier le fait que changer les prix pour différents utilisateurs pourrait être perçu comme injuste ou déroutant. En suivant les étapes, l'équipe a réalisé qu'elle devait être plus honnête sur la manière dont les prix étaient fixés et s'assurer que les utilisateurs vulnérables n'étaient pas ciblés injustement. Elle a ensuite utilisé les solutions spécifiques de sa carte pour ajuster son plan, en ajoutant des explications claires pour les utilisateurs et en fixant des limites sur qui pouvait participer au test. Cet exemple a montré que le modèle fonctionne non seulement pour des tests isolés, mais aussi pour des familles de tests qui se déroulent simultanément, permettant aux équipes d'appliquer les mêmes normes éthiques à de nombreux projets différents sans repartir de zéro à chaque fois.

L'étude conclut que, bien que les outils pour mener ces expériences soient puissants, les outils pour les guider de manière éthique ont été absents. Les chercheurs ont fourni un corpus de connaissances et un modèle de réflexion pour combler ce vide. Ils soulignent qu'il ne s'agit pas d'une solution finale qui résoudra chaque dilemme éthique pour toujours. Au contraire, c'est un point de départ qui rend l'invisible visible. Cela donne aux équipes de logiciels un moyen de parler d'éthique dans le même langage qu'elles utilisent pour le code et les données. En rendant le processus de raisonnement éthique clair et structuré, le modèle aide à garantir que la quête d'innovation ne se fasse pas au détriment des personnes qui utilisent la technologie. Ce travail suggère qu'avec le bon cadre, les entreprises peuvent continuer à apprendre de leurs utilisateurs tout en les traitant avec la dignité et le respect qu'ils méritent.