Possibility Ethics: Measuring Moral Value as the Expansion of Safe Future Options in Sociotechnical Systems
Cet article introduit l'« Éthique de la Possibilité », un cadre conceptuel-computationnel qui évalue les systèmes sociotechniques en quantifiant leur impact sur les opportunités futures éthiquement admissibles grâce à une nouvelle métrique appelée Entropie d'Option, implémentée dans la boîte à outils Omega-PE pour révéler les pertes d'opportunités distributionnelles souvent omises par les mesures agrégées.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde moderne, la technologie fait plus que simplement délivrer des résultats ; elle façonne le paysage même de ce qu'il nous est possible de faire ensuite. Lorsqu'une plateforme numérique supprime un bouton d'exportation, ou qu'un calendrier hospitalier ignore l'absence de transport d'un patient, le problème immédiat n'est pas seulement un mauvais résultat, mais un rétrécissement de l'avenir. C'est le domaine des systèmes sociotechniques, où les logiciels et les institutions humaines s'entremêlent pour déterminer l'éventail de choix disponibles pour les individus. Pendant des années, les éthiciens ont soutenu que nous devons protéger la liberté humaine et garantir l'équité, mais ces idées restent souvent des principes abstraits plutôt que des outils que les ingénieurs peuvent utiliser pour comparer différents modèles de systèmes. Le défi a été de trouver un moyen de mesurer si un nouveau modèle élargit réellement les opportunités réelles et sûres d'une personne ou si, discrètement, il les restreint, en particulier pour ceux qui ont déjà les moins d'options.
Un nouveau cadre appelé l'Éthique de la Possibilité, développé par le chercheur Mohammad Amir Khusru Akhtar, offre une manière concrète de répondre à cette question. Au lieu de tenter de calculer le bonheur total ou la valeur morale d'une personne, le cadre se concentre sur une question spécifique et mesurable : combien de chemins distincts, sûrs et viables vers l'avenir un modèle de système laisse-t-il ouverts pour un groupe de personnes ? L'idée centrale est qu'un meilleur modèle est celui qui préserve ou augmente le nombre de ces options futures distinctes, en particulier pour les groupes vulnérables. Pour ce faire, les chercheurs ont créé une méthode qui compte les différents types de résultats qu'une personne peut concrètement atteindre, tout en filtrant les choix qui sont purement théoriques ou qui comportent trop de risques.
Les chercheurs ont construit un système computationnel pour tester cette idée, traitant l'avenir non pas comme une ligne unique, mais comme un arbre de possibilités ramifiées. D'abord, le système examine chaque chemin potentiel qu'une personne pourrait suivre dans un intervalle de temps donné. Il applique ensuite une série de filtres stricts. Il élimine tout chemin qui n'est pas réalisable, c'est-à-dire que la personne manque d'argent, de temps, de compétences ou d'autorisations pour le suivre réellement. Il élimine également tout chemin qui cause du tort à la personne, aux autres ou à la communauté. Une fois les chemins dangereux ou impossibles écartés, le système regroupe les chemins restants en catégories basées sur leurs résultats finaux. Si deux chemins mènent au même type de résultat, ils sont comptés comme une seule option. Le système calcule ensuite un score basé sur le nombre de ces catégories distinctes et sûres disponibles. Ce score augmente lorsque de nouvelles options différentes et sûres apparaissent, mais sa croissance ralentit à mesure que le nombre d'options devient très grand, reflétant l'idée que les premières nouvelles options sont les plus importantes.
Pour voir si cette méthode fonctionne dans le monde réel, l'équipe a mené deux types de tests. Dans une simulation contrôlée, ils ont comparé trois modèles de systèmes différents pour un groupe d'étudiants ayant des niveaux de soutien variés. Un modèle offrait un moyen de quitter le système et de se déconnecter, un autre proposait un assistant personnalisé, et le troisième était une base de référence standard. Les résultats ont montré que le modèle permettant aux gens de partir et de se déconnecter créait le plus grand nombre d'options futures distinctes et sûres pour les étudiants qui commençaient avec le moins de ressources. L'assistant personnalisé, bien qu'utile pour certains, réduisait en réalité le nombre total d'options sûres pour le groupe le plus vulnérable par rapport à la base de référence. La simulation a prouvé que le cadre pouvait détecter lorsqu'un modèle aidait certaines personnes tout en nuisant discrètement à d'autres, une nuance que les scores moyens simples ne pourraient pas détecter.
Les chercheurs ont ensuite appliqué la même méthode à un ensemble massif de données réelles provenant de l'Open University, qui suit les parcours d'apprentissage de près de 8 000 étudiants sur plusieurs années. Ils ont examiné comment les étudiants en situation de handicap, ceux issus de milieux à faibles revenus et ceux redoublant des cours naviguaient dans leurs études. L'analyse a révélé que, si une année du programme montrait une légère amélioration globale du nombre de parcours disponibles, elle réduisait simultanément les options pour les étudiants en situation de handicap. Le score agrégé semblait bon, mais l'analyse détaillée montrait qu'un groupe spécifique perdait du terrain. Cette conclusion a déclenché une exigence de « Réparation d'Options », une étape procédurale où les concepteurs du système doivent identifier ce qui a bloqué ces étudiants et trouver un moyen de restaurer leurs choix perdus. L'étude a démontré que regarder la moyenne peut masquer l'érosion de la liberté pour des communautés spécifiques.
Le cadre ne prétend pas résoudre tous les problèmes éthiques ni remplacer le jugement humain. Il ne mesure pas la dignité, la vertu ou la qualité de vie au sens large. Il fournit plutôt un outil transparent et reproductible pour les auditeurs et les concepteurs afin de voir exactement comment un système modifie le menu des possibilités futures. Il impose un compte rendu clair de quelles options sont réelles et lesquelles sont des illusions, et il souligne quand un choix de conception, même bien intentionné, rétrécit l'horizon des plus vulnérables. En rendant la structure des options futures visible et comparable, l'Éthique de la Possibilité offre un moyen de garantir que nos systèmes sociotechniques élargissent l'agence humaine plutôt que de la contraindre discrètement.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.