Ethics Shaped by Contestation: The Trolley Problem and the Formation of Ethical Problems in Autonomous Vehicle Ethics

Imaginez un monde où les voitures se conduisent seules, prenant des décisions instantanées qui appartenaient autrefois entièrement aux conducteurs humains. Alors que nous nous dirigeons vers ce futur, un dilemme moral familier a pris le devant de la scène dans le débat : le problème du tramway. Dans sa forme classique, cette expérience de pensée demande à une personne de choisir entre deux issues terribles, comme actionner un levier pour détourner un train fou pour tuer une personne au lieu de cinq. Pendant des années, ce scénario a été utilisé pour demander si les voitures autonomes devraient être programmées pour sacrifier un passager afin de sauver un groupe de piétons, ou vice versa. Le public et la presse ont traité ce dilemme comme le test ultime de l'éthique des véhicules autonomes, supposant que le véritable défi consiste simplement à décider qui sera percuté lors d'un accident. Cependant, une nouvelle perspective suggère que se concentrer uniquement sur ces moments de crash extrêmes revient à passer à côté de l'image globale de la manière dont nous construisons réellement des règles morales dans les machines.

Les chercheurs Ling Peng et Dan Wan, de l'Université normale du Hunan, soutiennent que la véritable valeur du problème du tramway à l'ère des voitures autonomes n'est pas qu'il fournisse une réponse toute prête sur la façon dont une voiture devrait se comporter lors d'une catastrophe. Au contraire, ils proposent que le problème serve d'outil puissant pour façonner les questions que nous posons en premier lieu. En étudiant comment ce célèbre casse-tête moral a été utilisé, critiqué et adapté par les ingénieurs et les éthiciens, les auteurs montrent que le débat a en réalité élargi le champ d'étude. Plutôt que de rétrécir la conversation à de simples scénarios de collision, la controverse entourant le problème du tramway a forcé les experts à examiner les décisions quotidiennes et routinières que prennent les voitures, la manière dont les risques sont gérés au fil du temps, et qui est responsable lorsque les choses tournent mal. Le problème du tramway, dans cette perspective, n'est pas une impasse mais un point de départ qui permet de faire progresser la conversation.

Pour comprendre ce changement, il faut d'abord observer comment le problème du tramway fonctionne en philosophie. Il ne s'agit pas simplement d'une histoire de choix difficile ; c'est une méthode permettant de comparer deux situations qui semblent très similaires mais qui font ressentir différemment le sentiment de ce qui est juste. Par exemple, dans une version de l'histoire, une personne peut sauver cinq personnes en actionnant un levier pour changer de voie, tuant ainsi une personne de l'autre côté. La plupart des gens trouvent cela acceptable. Dans une autre version, la seule façon de sauver les cinq est de pousser une personne de grande taille d'un pont pour arrêter le train. Ici, la plupart des gens trouvent cela mal, même si le résultat est le même : une personne meurt pour en sauver cinq. Les philosophes utilisent cet écart de sentiment pour déterminer quels détails spécifiques importent moralement. Les chercheurs expliquent que lorsque cette méthode est transposée dans le monde des voitures autonomes, elle cesse d'être seulement une histoire de moment de crise pour devenir un cadre permettant d'organiser notre façon de penser la technologie.

Lorsque les voitures autonomes sont conçues, elles n'attendent pas qu'un accident se produise avant de prendre une décision. Leurs règles sont écrites bien avant qu'elles ne prennent la route. Les auteurs décrivent comment le problème du tramway se transforme dans ce contexte. Il cesse d'être une question de ce qu'un humain devrait faire en cas d'urgence pour devenir une question de savoir quelles règles les ingénieurs doivent inscrire dans le logiciel. Cela change totalement la nature du problème. Au lieu de demander « Qui la voiture doit-elle percuter ? », la question devient « Comment construire un système qui prenne ces choix ? ». Le problème du tramway aide les chercheurs à identifier les valeurs qui sont intégrées dans le code de la voiture, comme le fait de savoir si la voiture donne la priorité à la sécurité de ses passagers ou à celle des gens dans la rue. Il agit comme une lentille qui met certains enjeux éthiques en relief, spécifment l'allocation des dommages et l'ordonnancement des valeurs.

Cependant, les auteurs soulignent que cette lentille a une limite. Si nous ne regardons que le problème du tramway, nous risquons de passer à côté de la vaste majorité de ce que font réellement les voitures autonomes. Les critiques ont soutenu que les scénarios classiques sont trop extrêmes et irréalistes. Les vraies voitures ne sont pas confrontées à des choix parfaits et tranchés entre tuer une personne ou cinq. Elles font face à des situations confuses et incertaines chaque seconde de la journée. Les chercheurs ont constaté qu'en argumentant sur la pertinence du problème du tramway pour les voitures autonomes, le débat a en fait poussé le domaine à regarder au-delà du crash. La critique selon laquelle le problème était trop étroit a forcé les experts à considérer les « situations banales » de la conduite. Ce sont les moments ordinaires, comme lorsqu'une voiture décide de sa proximité avec un piéton à un passage pour piétons ou de sa vitesse dans une intersection fréquentée. Ces décisions routinières, qui se produisent des millions de fois par jour, répartissent le risque à travers la société d'une manière qu'un seul scénario de collision ne peut capturer.

L'article suggère que le problème du tramway est précieux précisément parce qu'il est contesté. Les arguments contre lui — affirmant qu'il est trop simple, trop dramatique ou trop rare — ne sont pas des signes que l'idée doive être écartée. Au contraire, ces critiques agissent comme un mécanisme qui élargit la conversation éthique. Lorsque les experts affirment que le problème du tramway ignore les risques quotidiens de la conduite, ils sont contraints de créer de nouvelles façons de penser la gestion des risques et la responsabilité. Le débat passe de « Que doit faire la voiture en cas de crash ? » à « Comment la voiture doit-elle se comporter pour prévenir les accidents ? » et « Qui est responsable des risques créés par la voiture lors d'une conduite normale ? ». Le problème du tramway sert de point de référence qui aide à structurer ces nouvelles questions, même en étant critiqué. Il force le domaine à définir ses limites et à décider ce qui constitue un problème éthique en premier lieu.

Enfin, les chercheurs concluent que le problème du tramway ne résout pas les défis éthiques des voitures autonomes. Il ne nous dit pas la bonne réponse sur la façon de programmer un véhicule. Au lieu de cela, il façonne la manière dont nous formulons les problèmes que nous devons résoudre. En mettant certains enjeux en lumière et en en cachant d'autres, puis en étant critiqué pour avoir fait précisément cela, le problème du tramway maintient l'enquête éthique vivante et évolutive. Il nous rappelle que la partie la plus importante de l'éthique technologique n'est pas seulement de trouver la bonne réponse, mais de comprendre comment nous décidons quelle est la question. Le débat lui-même, avec tous ses désaccords et ses raffinements, est ce qui nous permet de percevoir toute la complexité du paysage moral dans lequel les voitures autonomes entrent.