Possibility Ethics: Measuring Moral Value as the Expansion of Safe Future Options in Sociotechnical Systems
Dit artikel introduceert "Possibility Ethics", een conceptueel-computationeel kader dat sociotechnische systemen evalueert door hun impact op ethisch aanvaardbare toekomstige mogelijkheden te kwantificeren via een nieuwe metriek genaamd Option Entropy, geïmplementeerd in de Omega-PE toolkit om distributieve kansverliezen te onthullen die vaak over het hoofd worden gezien door geaggregeerde maten.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne wereld doet technologie meer dan alleen resultaten leveren; het vormt het landschap van wat voor ons mogelijk is om vervolgens te doen. Wanneer een digitaal platform een exportknop verwijdert, of een ziekenhuisplanning de afwezigheid van vervoer bij een patiënt negeert, is het onmiddellijke probleem niet alleen een slecht resultaat, maar een inkrimping van de toekomst. Dit is het domein van sociotechnische systemen, waar software en menselijke instituties met elkaar verweven zijn om de reikwijdte van de keuzes die mensen hebben te bepalen. Jarenlang hebben ethici beargumenteerd dat we de menselijke vrijheid moeten beschermen en rechtvaardigheid moeten waarborgen, maar deze ideeën blijven vaak abstracte principes in plaats van instrumenten die ingenieurs kunnen gebruiken om verschillende systeemontwerpen te vergelijken. De uitdaging is geweest om een manier te vinden om te meten of een nieuw ontwerp de werkelijke, veilige mogelijkheden van een persoon daadwerkelijk vergroot of deze stilletjes inperkt, vooral voor hen die al de minste opties hebben.
Een nieuw kader genaamd Possibility Ethics (Mogelijkheidsethiek), ontwikkeld door onderzoeker Mohammad Amir Khusru Akhtar, biedt een concrete manier om deze vraag te beantwoorden. In plaats van te proberen de totale gelukzaligheid of morele waarde van een persoon te berekenen, richt het kader zich op een specifieke, meetbare vraag: hoeveel verschillende, veilige en levensvatbare paden naar de toekomst laat een systeemontwerp open voor een groep mensen? Het kernidee is dat een moreel beter ontwerp een ontwerp is dat het aantal van deze verschillende toekomstige opties behoudt of vergroot, met name voor kwetsbare groepen. Om dit te doen, hebben de onderzoekers een methode ontwikkeld die verschillende soorten uitkomsten telt die een persoon realistisch gezien kan bereiken, terwijl ze keuzes wegfilteren die louter theoretisch zijn of te veel risico met zich meebrengen.
De onderzoekers bouwden een computationeel systeem om dit idee te testen, waarbij ze de toekomst niet als een enkele lijn beschouwen, maar als een vertakkende boom van mogelijkheden. Eerst kijkt het systeem naar elk potentieel pad dat een persoon binnen een bepaalde tijdspanne zou kunnen volgen. Vervolgens past het een reeks strikte filters toe. Het verwijdert elk pad dat niet haalbaar is, wat betekent dat de persoon niet over het geld, de tijd, de vaardigheden of de toestemming beschikt om het daadwerkelijk te volgen. Het verwijdert ook elk pad dat schade toebrengt aan de persoon, anderen of de gemeenschap. Zodra de gevaarlijke of onmogelijke paden zijn verwijderd, groepeert het systeem de resterende paden in categorieën op basis van hun uiteindelijke resultaten. Als twee paden tot hetzelfde soort uitkomst leiden, worden ze als één optie geteld. Het systeem berekent vervolgens een score op basis van het aantal van deze verschillende, veilige categorieën dat beschikbaar is. Deze score stijgt wanneer er nieuwe, verschillende en veilige opties verschijnen, maar groeit langzamer naarmate het aantal opties zeer groot wordt, wat de gedachte reflecteert dat de eerste paar nieuwe keuzes het belangrijkst zijn.
Om te zien of deze methode in de echte wereld werkt, heeft het team twee soorten tests uitgevoerd. In een gecontroleerde simulatie vergeleken ze drie verschillende systeemontwerpen voor een groep studenten met variërende niveaus van ondersteuning. Eén ontwerp bood een manier om het systeem te verlaten en offline te gaan, een ander bood een persoonlijke assistent, en het derde was een standaard basislijn. De resultaten lieten zien dat het ontwerp dat mensen toestaat om te vertrekken en offline te gaan, de meeste verschillende, veilige toekomstige opties creëerde voor de studenten die met de minste middelen begonnen. De persoonlijke assistent, hoewel nuttig voor sommigen, verminderde de totale hoeveelheid veilige opties voor de meest kwetsbare groep in vergelijking met de basislijn. De simulatie bewees dat het kader kon detecteren wanneer een ontwerp sommigen hielp terwijl het anderen stilletjes schaadde, een nuance die eenvoudige gemiddelde scores zouden missen.
De onderzoekers pasten vervolgens dezelfde methode toe op een enorme, reële dataset van de Open University, die de leerpaden van bijna 8.000 studenten over meerdere jaren volgt. Ze keken naar hoe studenten met een beperking, studenten uit lage inkomensklassen en studenten die cursussen herhalen, hun studie doorliepen. De analyse onthulde dat hoewel één jaar van het programma een lichte algemene verbetering liet zien in het aantal beschikbare trajecten, het tegelijkertijd de opties voor studenten met een beperking verminderde. De geaggregeerde score zag er goed uit, maar de gedetailleerde uitsplitsing toonde aan dat een specifieke groep terrein verloor. Deze bevinding leidde tot een vereiste voor "Option Repair" (Optieherstel), een procedurele stap waarbij de systeemontwerpers moeten identificeren wat die studenten blokkeerde en een manier moeten vinden om hun verloren keuzes te herstellen. De studie toonde aan dat kijken naar het gemiddelde de erosie van vrijheid voor specifieke gemeenschappen kan verbergen.
Het kader beweert geen alle ethische problemen op te lossen of de menselijke oordeelsvorming te vervangen. Het meet niet waardigheid, deugdzaamheid of de kwaliteit van leven in brede zin. In plaats daarvan biedt het een transparant, reproduceerbaar instrument voor auditors en ontwerpers om precies te zien hoe een systeem het menu van toekomstige mogelijkheden verandert. Het dwingt tot een duidelijke verantwoording van welke opties echt zijn en welke illusies, en het benadrukt wanneer een ontwerpkeuze, zelfs een welbedoelde, de horizon voor de meest kwetsbaren vernauwt. Door de structuur van toekomstige opties zichtbaar en vergelijkbaar te maken, biedt Possibility Ethics een manier om ervoor te zorgen dat onze sociotechnische systemen de menselijke handelingsbekwaamheid vergroten in plaats deze stilletjes te beperken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.