Ethics Shaped by Contestation: The Trolley Problem and the Formation of Ethical Problems in Autonomous Vehicle Ethics
Questo articolo sostiene che la vera significatività del problema del carrello nell'etica dei veicoli autonomi non risieda nel fornire soluzioni definitive agli incidenti, ma nel servire come un quadro dinamico di contestazione che continua a plasmare, riformulare ed espandere l'indagine etica dagli scenari estremi a questioni più ampie di governance del rischio e responsabilità istituzionale.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui le auto si guidano da sole, prendendo decisioni fulminee che un tempo appartenevano interamente ai conducenti umani. Mentre ci avviciniamo a questo futuro, un noto enigma morale ha occupato il centro del dibattito: il problema del carrello. Nella sua forma classica, questo esperimento mentale chiede a una persona di scegliere tra due esiti terribili, come tirare una leva per deviare un treno fuori controllo per uccidere una persona invece di cinque. Per anni, questo scenario è stato utilizzato per chiedere se le auto a guida autonoma debbano essere programmate per sacrificare un passeggero per salvare un gruppo di pedoni, o viceversa. Il pubblico e la stampa hanno trattato questo dilemma come il test definitivo per l'etica dei veicoli autonomi, assumendo che la vera sfida sia semplicemente decidere chi verrà colpito durante un incidente. Tuttavia, una nuova prospettiva suggerisce che concentrarsi solo su questi estremi momenti di collisione significhi perdere di vista il quadro generale di come costruiamo effettivamente le regole morali nelle macchine.
I ricercatori Ling Peng e Dan Wan della Hunan Normal University sostengono che il vero valore del problema del carrello nell'era delle auto a guida autonoma non risieda nel fornire una risposta già pronta su come un'auto debba comportarsi in un disastro. Al contrario, essi propongono che il problema funga da potente strumento per dare forma alle domande che poniamo fin dallamente. Studiando come questo famoso enigma morale sia stato utilizzato, criticato e adattato da ingegneri ed eticisti, gli autori dimostrano che il dibattito ha in realtà ampliato il campo di studi. Piuttosto che restringere la conversazione solo agli scenari di collisione, la controversia che circonda il problema del carrello ha costretto gli esperti a guardare alle decisioni quotidiane e di routine che le auto prendono, a come i rischi vengono gestiti nel tempo e a chi sia responsabile quando le cose vanno male. Il problema del carrello, in questa visione, non è un vicolo cieco ma un punto di partenza che mantiene la conversazione in movimento.
Per comprendere questo cambiamento, bisogna prima osservare come funziona il problema del carrello nella filosofia. Non è semplicemente una storia su una scelta difficile; è un metodo per confrontare due situazioni che appaiono molto simili ma che fanno sentire le persone in modo diverso riguardo a ciò che è giusto. Ad esempio, in una versione della storia, una persona può salvare cinque persone tirando una leva per cambiare binario, uccidendo una persona dall'altro lato. La maggior parte delle persone ritiene che questo sia accettabile. In un'altra versione, l'unico modo per salvare i cinque è spingere una persona robusta giù da un ponte per fermare il treno. Qui, la maggior parte delle persone ritiene che questo sia sbagliato, anche se il risultato è lo stesso: una persona muore per salvarne cinque. I filosofi usano questo divario di sensazioni per capire quali dettagli specifici abbiano rilevanza morale. Gli ricercatori spiegano che quando questo metodo si trasferisce nel mondo delle auto a guida autonoma, smette di essere solo una storia su un momento di crisi e diventa un quadro per organizzare il nostro modo di pensare alla tecnologia.
Quando le auto a guida autonoma vengono progettate, non aspettano che accada un incidente prima di prendere una decisione. Le loro regole sono scritte molto prima di imboccare la strada. Gli autori descrivono come il problema del carrello si trasformi in questo contesto. Esso smette di essere una domanda su cosa dovrebbe fare un essere umano in un'emergenza e diventa una domanda su quali regole gli ingegneri debbano scrivere nel software. Questo cambia completamente la natura del problema. Invece di chiedere "Chi deve colpire l'auto?", la domanda diventa "Come costruiamo un sistema che compia queste scelte?". Il problema del carrello aiuta i ricercatori a identificare quali valori vengono inseriti nel codice dell'auto, come se l'auto dia priorità alla sicurezza dei propri passeggeri o delle persone in strada. Funge da lente che porta determinati problemi etici a fuoco, specificamente l'allocazione del danno e l'ordinamento dei valori.
Tuttavia, gli autori sottolineano che questa lente ha un limite. Se guardiamo solo al problema del carrello, potremmo perdere la stragrande maggioranza di ciò che le auto a guida autonoma fanno realmente. I critici hanno sostenuto che gli scenari classici siano troppo estremi e irrealistici. Le auto reali non affrontano scelte perfette e nette tra uccidere una persona o cinque. Affrontano situazioni disordinate e incerte ogni secondo della giornata. I ricercatori hanno scoperto che, mentre le persone discutevano se il problema del carrello fosse adatto alle auto a guida autonoma, il dibattito ha in realtà spinto il campo a guardare oltre la collisione. La critica che il problema fosse troppo stretto ha costretto gli esperti a considerare le "situazioni mondane" della guida. Queste sono le decisioni ordinarie, come quando un'auto decide quanto avvicinarsi a un pedone su un attraversamento o quanto velocemente guidare in un incrocio trafficato. Queste decisioni di routine, che avvengono milioni di volte al giorno, distribuiscono il rischio nella società in modi che un singolo scenario di collisione non può catturare.
L'articolo suggerisce che il problema del carrello è prezioso proprio perché è contestato. Le argomentazioni contro di esso — che dicono sia troppo semplice, troppo drammatico o troppo raro — non sono segni che l'idea debba essere scartata. Al contrario, queste critiche agiscono come un meccanismo che espande la conversazione etica. Quando gli esperti affermano che il problema del carrello ignora i rischi quotidiani della guida, sono costretti a creare nuovi modi di pensare alla gestione del rischio e alla responsabilità. Il dibattito si sposta da "Cosa dovrebbe fare l'auto in caso di collisione?" a "Come dovrebbe comportarsi l'auto per prevenire le collisioni?" e "Chi è responsabile dei rischi che l'auto crea mentre guida normalmente?". Il problema del carrello funge da punto di riferimento che aiuta a strutturare queste nuove domande, anche mentre viene criticato. Esso costringe il campo a definire i propri confini e a decidere cosa costituisca, in primo luogo, un problema etico.
In definitiva, i ricercatori concludono che il problema del carrello non risolve le sfide etiche delle auto a guida autonoma. Non ci dice la risposta corretta su come programmare un veicolo. Invece, modella il modo in cui formuliamo i problemi che dobbiamo risolvere. Portando certi problemi alla luce e mettendone altri in ombra, e poi essendo criticato proprio per aver fatto questo, il problema del carrello mantiene viva ed evolutiva l'indagine etica. Ci ricorda che la parte più importante dell'etica tecnologica non è solo trovare la risposta giusta, ma capire come decidiamo quale sia la domanda. Il dibattito stesso, con tutti i suoi disaccordi e i suoi affinamenti, è ciò che ci permette di vedere la piena complessità del panorama morale in cui le auto a guida autonoma stanno entrando.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.