A Contractualist Argumentation Framework for Moral Decision-Making
Dit artikel stelt een formeel Contractualistisch Argumentatiekader voor dat de ethische theorie van Scanlon operationaliseert met behulp van het ASPIC+-gestructureerde argumentatiesysteem en waardegebaseerde filtering om autonome agenten in staat te stellen morele beslissingen te nemen door principes te evalueren die niemand redelijkerwijs zou kunnen verwerpen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Morele Debat in de Woonkamer
Stel je een wereld voor waarin je broodrooster, je koelkast en je toekomstige robotkamergenoot niet alleen een rigide lijst met "doe dit, doe dat niet"-opdrachten volgen, maar ook echt proberen goede buren te zijn. Dit is de kern van een vakgebied genaamd AI-ethiek (Kunstmatige Intelligentie). De grote vraag waar onderzoekers mee worstelen is: hoe leren we machines beslissingen te nemen wanneer mensen verschillende, botsende behoeften hebben? Als een robot moet kiezen tussen het helpen van de één en het beschermen van de ander, hoe bepaalt hij dan wat "juist" is?
Om dit op te lossen, kijken wetenschappers vaak naar twee belangrijke instrumenten. Ten eerste is er Waarde-gebaseerd Redeneren, wat vergelijkbaar is met het geven van een reeks prioriteiten aan een robot (zoals "veiligheid" of "privacy") en hem de opdracht geven deze tegen elkaar af te wegen. Ten tweede zijn er Argumentatiekaders, die lijken op een geformaliseerde debatclub waar de robot logische zaken vóór en tegen een beslissing opbouwt, om vervolgens te zien welke zaak het sterkst is. Maar er is een addertje onder het gras: simpelweg prioriteiten afwegen kan soms koud of wiskundig aanvoelen, waarbij de menselijke behoefte om gehoord te worden wordt gemist. Hier komt een filosofie genaamd Contractualisme in beeld. Zie dit als de ultieme "eerlijkheidstest". Het vraagt: "Zou iedereen die betrokken is redelijkerwijs met deze regel kunnen instemmen, of zou er ten minste één persoon een heel goede reden hebben om te zeggen: 'Nee, dat is niet eerlijk'?" Het doel is om een robot te bouwen die niet alleen de beste uitkomst berekent, maar die zijn acties ook kan rechtvaardigen aan alle betrokkenen, net zoals een goede vriend dat zou doen.
Het Grote Idee van het Papier: Een "Virtuele Onderhandeling" van een Robot
In dit artikel stellen de auteurs Luis Marcos-Vidal, Giulio Antonio Abbo en Tony Belpaeme een nieuwe manier voor om deze morele robots te bouwen. Ze stellen een systeem voor dat een Contractualistisch Argumentatiekader wordt genoemd. In plaats van alleen maar getallen te kraken, handelt hun robot als een bemiddelaar in een "virtuele onderhandeling". De robot stelt zich een vergaderruimte voor waarin elke persoon die door een beslissing wordt geraakt, de kans krijgt om haar stem te laten horen. De robot luistert vervolgens naar hun redenen, controleert of die redenen eerlijk en persoonlijk zijn, en beslist of een van hen sterk genoeg is om de voorgestelde actie te verwerpen.
Hier is hoe hun systeem werkt, met behulp van een speelse analogie: Stel je voor dat de robot een rechter is in een rechtszaal, maar de rechtszaal bevindt zich in zijn eigen brein. De "wet" die hij volgt, is Scanlons Contractualisme, een theorie die stelt dat een handeling alleen acceptabel is als niemand deze redelijkerwijs kan verwerpen. Om dit proces te draaien, gebruikt de robot een gestructureerde debatmotor genaamd ASPIC+.
Eerst moet de robot bepalen welke argumenten überhaupt zijn toegestaan. Hij gebruikt een "filter" gebaseerd op waarden (zoals privacy of autonomie). Denk hierbij aan een uitsmijter bij een club. Als iemand probeert een argument aan te voeren dat niet overeenkomt met diens eigen waarden (bijvoorbeeld als iemand die niet om privacy geeft, probeert te argumenteren over een schending van de privacy), dan houdt de uitsmijter diegene tegen. Alleen argumenten die er echt toe doen voor de specifieke persoon, komen de club binnen. Dit zorgt ervoor dat de robot individuele verschillen respecteert.
Zodra de geldige argumenten binnen zijn, beginnen ze te debatteren. De robot bouwt "argumenten" vóór en tegen een actie. Bijvoorbeeld: als een robot een geheim weet over Persoon A, kan hij een argument hebben tegen het vertellen aan Persoon B, omdat het de privacy van Persoon A schendt. Maar Persoon B kan echter een argument hebben vóór het vertellen, omdat het hen helpt een betere beslissing te nemen (hun autonomie). De robot vergelijkt vervolgens deze argumenten. Hij telt ze niet simpelweg op (één persoon tegen één persoon); hij weegt de kracht van de redenen. Als de privacy van Persoon A een enorme zaak is voor hen, en de behoefte aan informatie van Persoon B slechts een milde voorkeur is, dan wint het privacy-argument. De robot concludeert dan dat de actie (het vertellen van het geheim) niet toegestaan is, omdat Persoon A een "redelijke verwerping" hiervan heeft.
Een Praktijkvoorbeeld: Het Geheim van de Sigaret
Om te laten zien hoe dit werkt, voeren de auteurs een simulatie uit in een huiselijke omgeving. Stel je voor dat een robot ziet dat Persoon A stiekem een sigaret rookt. Persoon B (misschien een partner) vraagt de robot wat er aan de hand is. De robot moet beslissen: Het geheim onthullen (Actie A) of Het geheim bewaren (Niet-Actie A).
De robot voert de "virtuele onderhandeling" uit:
- De zijde van Persoon A: Zij hechten waarde aan privacy. De robot controleert: "Schendt deze actie de privacy van A?" Ja. "Is het een grote zaak?" De simulatie wijst een hoge weging (3) toe aan deze schending.
- De zijde van Persoon B: Zij hechten waarde aan autonomie (het vermogen om geïnformeerde keuzes te maken). De robot controleert: "Schade het bewaren van het geheim de autonomie van B?" Ja. "Is het een grote zaak?" De simulatie wijst een lagere weging (2) toe aan deze schending.
De robot bouwt twee argumenten op:
- Argument 1 (voor stilzwijgen): "Vertel het niet! Het schendt de privacy van A, wat een enorme zaak is voor hen."
- Argument 2 (voor vertellen): "Vertel het wel! Het helft de autonomie van B, wat belangrijk is voor hen."
De robot vergelijkt vervolgens de wegingen. Omdat 3 groter is dan 2, is het privacy-argument sterker. In de "rechtbank" van de robot verslaat Argument 1 Argument 2. De conclusie? De robot besluit niet te onthullen wat er aan de hand is. De actie van het onthullen van het geheim wordt verworpen omdat Persoon A een reden heeft die te sterk is om te negeren.
Wat dit betekent (en wat het niet betekent)
De auteurs suggereren dat deze aanpak een veelbelovende stap is naar het creëren van AI die menselijker en eerlijker aanvoelt. Door gebruik te maken van gestructureerde argumenten in plaats van alleen simpele wiskunde, kan de robot uitleggen waarom hij een keuze heeft gemaakt, waarbij hij zijn beslissing fundeert in de specifieke waarden van de betrokken personen. Ze merken op dat deze methode verschilt van andere benaderingen die wellicht alleen maar "gelukspunten" optellen (utilitarisme) of strikte regels volgen (deontologie). In plaats daarvan richt het zich op de interpersoonlijke relatie: "Kan ik dit aan jou rechtvaardigen?"
De auteurs wijzen er echter voorzichtig op dat dit momenteel een theoretisch kader en een simulatie is. De auteurs geven toe dat hun model een "one-shot" oordeel is — het neemt een beslissing op basis van een enkel momentopname van een situatie, in plaats van een langdurig, heen-en-weer gesprek zoals mensen dat voeren. Ze merken ook op dat het systeem steunt op een vooraf gedefinieerde lijst van waarden (zoals privacy en autonomie) en nog niet in staat is om zelfstandig nieuwe morele waarden te ontdekken. Bovendien kan de wiskunde achter deze debatten erg ingewikkeld en traag worden voor computers om in realtime op te lossen.
Kortom, het artikel stelt een slimme nieuwe manier voor om robots te leren goede buren te zijn door hen een eerlijk, waarde-gebaseerd debat in hun eigen geest te laten voeren. Het suggereert dat als we willen dat robots met ons samenleven, ze niet alleen slimme rekenmachines moeten zijn; ze moeten eerlijke rechters zijn die naar de redenen van iedereen luisteren voordat ze een besluit nemen. Hoewel het nog geen afgewerkt product is, biedt het een solide blauwdruk voor hoe we machines kunnen bouwen die de rommelige, complexe realiteit van menselijke waarden respecteren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.