🤖 AI

Formalizing Kantian Ethics: Formula of the Universal Law Logic (FULL)

Dit paper introduceert de Formula of the Universal Law Logic (FULL), een multi-sorte modale logica die de eerste formulering van Kant's categorische imperatief formaliseert om morele agenten in staat te stellen handelingen te evalueren op basis van hun doelen zonder vooraf ingebouwde morele intuïtie.

Oorspronkelijke auteurs: Taylor Olson

Gepubliceerd 2026-04-17

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Taylor Olson

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot bouwt die niet alleen slim is, maar ook moreel. Je wilt dat deze robot goede beslissingen neemt, niet omdat hij een lijstje met regels heeft geleerd (zoals "doe nooit liegen" of "help altijd"), maar omdat hij echt begrijpt waarom iets goed of slecht is.

Dit is het probleem waar de auteur, Taylor Olson, zich mee bezighoudt in zijn paper. Hij introduceert een nieuwe manier om ethica voor robots te programmeren, gebaseerd op de oude filosofie van Immanuel Kant. Hij noemt zijn systeem FULL (Formula of the Universal Law Logic).

Hier is een uitleg in simpele taal, met behulp van een paar creatieve analogieën.

1. Het Probleem: De "Recept-boek" aanpak

Huidige robots krijgen vaak een "receptenboek" met morele regels.

Regel 1: Lieg nooit.
Regel 2: Doe niemand pijn.

Het probleem: Dit werkt niet goed in de echte wereld.
Stel je voor dat een robot een chirurg is. Als hij de regel "Doe niemand pijn" volgt, mag hij nooit een operatie uitvoeren, zelfs niet om iemand te redden. De robot ziet alleen de actie (snijden = pijn), maar niet het doel (redden van een leven).
Daarnaast moeten mensen van tevoren alle mogelijke situaties bedenken en in regels gieten. Dat is onmogelijk. Wat als de robot in een situatie komt die niemand heeft bedacht? Dan faalt hij.

2. De Oplossing: De "Spiegel van de Wereld" (Kant)

Olson zegt: "Laten we de robot niet een lijstje met regels geven, maar hem een test geven."
Deze test is gebaseerd op de filosofie van Kant. De test heet: "De Wet van de Universele Wet".

De Analogie van de Spiegel:
Stel je voor dat je een spiegel hebt die de hele wereld weerspiegelt. Als je iets wilt doen (bijvoorbeeld: "Ik wil een leugentje om bestwil vertellen om geld te krijgen"), moet je de spiegel gebruiken om te kijken wat er gebeurt als iedereen in de wereld datzelfde doet.

De Vraag: "Zou mijn plan nog werken als iedereen dat plan uitvoerde?"
Het Resultaat:
- Als het plan in die wereld niet meer werkt (het faalt), dan is het moreel verkeerd om het te doen.
- Als het plan nog steeds werkt, dan is het oké.

3. Hoe werkt FULL in de praktijk? (De Drie Voorbeelden)

De auteur laat zien hoe zijn systeem (FULL) dit logisch uitrekent, zonder dat hij vooraf regels hoeft in te voeren.

Voorbeeld A: De Leugen (Het Belofte-geval)

Situatie: Karli wil geld lenen en belooft terug te betalen, maar ze heeft geen intentie om het terug te geven.
De Test in de Spiegel: Stel je een wereld voor waar iedereen die geld nodig heeft, valse beloftes doet.
Het Gevolg: In die wereld zou niemand nog iemand geloven. Als niemand gelooft, werkt een "belofte" niet meer. Karli's plan (geld krijgen door te liegen) faalt in die wereld.
Conclusie: Omdat het plan in de spiegelwereld niet werkt, is het plan in de echte wereld verboden. De robot ziet dit zonder dat er een regel "Liegen is slecht" in zijn hoofd staat.

Voorbeeld B: Moorden (Het Werk-geval)

Situatie: Karli wil een collega vermoorden om de baan te krijgen.
De Test in de Spiegel: Stel je een wereld voor waar iedereen die een baan wil, zijn concurrent vermoordt.
Het Gevolg: In die wereld zou Karli zelf ook vermoord worden door iemand anders die ook de baan wil. Als Karli dood is, kan ze de baan niet krijgen. Haar plan (moorden om de baan te krijgen) werkt niet meer.
Conclusie: Het plan is verboden.
Het Verschil met oude robots: Een oude robot zou misschien denken: "Mensen doden is slecht, punt." Maar een FULL-robot ziet: "Je kunt dit niet doen, want als iedereen het doet, faalt jouw eigen doel."

Voorbeeld C: De Chirurg (Het Doel-verschil)

Dit is waar het echt cool wordt.

Situatie 1: Karli steekt een mes in Jan om hem pijn te doen. (Doel: Pijn).
Situatie 2: Karli steekt een mes in Jan (een patiënt) om hem te redden. (Doel: Genezing).
De Test:
- In situatie 1: Als iedereen mensen steekt om pijn te doen, werkt dat? Ja, maar het is een wereld van chaos.
- In situatie 2: Als iedereen artsen is die mensen steekt om hen te genezen, werkt dat? Ja! In die wereld worden mensen gered.
Conclusie: De robot ziet dat het doel (genezing) in de spiegelwereld nog steeds werkt. Dus is de operatie toegestaan. De robot onderscheidt dus tussen "doden" en "opereren" op basis van het doel, niet alleen op basis van de actie.

4. Waarom is dit belangrijk?

Deze paper is een grote stap voorwaarts voor drie redenen:

Geen vooraf ingeprekte regels: We hoeven niet te raden welke regels we nodig hebben. De robot gebruikt logica om zelf te ontdekken of iets werkt of niet.
Focus op het Doel: De robot kijkt niet alleen naar wat je doet, maar waarom je het doet. Dit maakt hem slimmer en menselijker.
Robuustheid: Omdat de robot logisch redeneert over de gevolgen van zijn acties in een hypothetische wereld, kan hij omgaan met nieuwe situaties waarvoor we geen specifieke regels hebben bedacht.

Samenvattend

Stel je voor dat je een robot bouwt die niet werkt als een politieagent (die alleen kijkt of je een regel overtreedt), maar als een filosoof die in een spiegel kijkt. Hij vraagt zich af: "Zou mijn wereld nog werken als iedereen dit deed?" Als het antwoord "nee" is, doet hij het niet.

Taylor Olson heeft nu de wiskundige taal (FULL) bedacht om deze "filosofische spiegel" in de code van een computer te bouwen. Het is een stap naar AI die niet alleen slim is, maar ook echt moreel kan nadenken.

Probleemstelling

Het veld van machine-ethiek streeft naar het bouwen van Kunstmatige Morele Agenten (AMAs) om AI-systemen veiliger te maken en moreel inzicht te vergroten. Huidige benaderingen coderen vaak menselijke morele intuïtie als een reeks axioma's die specifieke acties voorschrijven of verbieden (bijv. "doe geen kwaad", "help anderen"). De auteur identificeert drie fundamentele beperkingen in deze bestaande methoden:

Actie-gecentreerd vs. Agent-gecentreerd: Bestaande axioma's evalueren alleen de actie zelf, niet het doel (de maxim) van de agent. Ze kunnen bijvoorbeeld niet onderscheid maken tussen het verminderen van vervuiling uit plicht of voor public relations.
A priori morele intuïtie: Deze methoden veronderstellen dat mensen hun morele intuïtie volledig kunnen enumereren voordat ze AI bouwen. Dit leidt tot het "value alignment"-probleem, waarbij conflicten en uitzonderingen in nieuwe situaties niet opgelost kunnen worden zonder extra intuïtie (bijv. een chirurg die een patiënt snijdt wordt gezien als "kwaad doen" zonder de context van genezing).
Gebrek aan autonomie: Omdat AMAs de morele axioma's niet kunnen bekritiseren, kunnen ze niet deelnemen aan moreel discours over de geldigheid van die axioma's.

De kernvraag is hoe we een morele procedure kunnen formaliseren die deze beperkingen oplost zonder vooraf ingebouwde morele axioma's voor specifieke acties.

Methodologie

De auteur stelt een nieuwe logica voor: de Formula of the Universal Law Logic (FULL). Dit is een meervoudig gesorteerde (multi-sorted) kwantificerende modale logica die gebaseerd is op Immanuel Kant's eerste formulering van de categorische imperatief: de Formula of the Universal Law (FUL).

Kerncomponenten van de FULL:

Syntax en Sorten: De logica hanteert sorten voor Objecten, Agenten en Acties. Het gebruikt predikaten zoals Does(a, b) (agent $a$ doet actie $b$ ) en Wills(a, ϕ) (agent $a$ wil dat $\phi$ waar is).
Maximen: Een morele regel wordt gemodelleerd als een maxim met de vorm For(ϕ1, ϕ2), wat betekent: "Ik doe/laat $ϕ1$ (actie) voor het doel $ϕ2$ ". Dit maakt de logica agent-gecentreerd.
Causaliteit: Causale wetten worden gemodelleerd met de operator Causes([¬]Does(a, b), ϕ). Dit is cruciaal omdat de geldigheid van een handeling afhangt van of deze daadwerkelijk het beoogde doel bereikt.
De Wereld van de Universele Wet (WUL): De logica formaliseert het proces van universalisatie. Een specifieke maxim wordt omgezet in een universele wet (UL(M)) waarbij de agent en andere constanten in het doel universeel gekwantificeerd worden, en constanten in de actie existentieel gekwantificeerd worden.
Praktische Contradictie Interpretatie (PCI): In plaats van logische of teleologische contradicties, baseert de FULL zich op de PCI. Een handeling is moreel onaanvaardbaar als de actie in de WUL (waar iedereen volgens de maxim handelt) ineffectief wordt als middel om het doel te bereiken.
De FUL Regel: Een maxim is toelaatbaar (Perm) dan en slechts dan als het willen van de maxim én het willen van de universele wet ervan geen contradictie oplevert. Als er een contradictie is, is de handeling onaanvaardbaar (Imp).

Belangrijkste Bijdragen

Formalisatie van de FUL: De eerste volledige formalisatie van Kant's eerste formulering in een kwantificerende modale logica, die specifiek de relatie tussen actie, doel en causaliteit vastlegt.
Agent-gecentreerde Evaluatie: De FULL evalueert niet alleen acties, maar de morele status van een actie in relatie tot het doel van de agent. Dit lost het probleem op van het onderscheiden van intenties (bijv. chirurgie vs. moord).
Vermindering van Menselijke Intuïtie: Het systeem vereist geen vooraf ingebouwde morele regels voor specifieke acties. Het genereert morele normen puur uit formele principes van rationele agentie, causaliteit en achtergrondkennis.
Onderscheid tussen Plichten: De logica kan onderscheid maken tussen:
- Perfecte plichten: Gebaseerd op een "contradictie in het concept" (de actie wordt onmogelijk in de WUL, bijv. liegen).
- Onperfecte plichten: Gebaseerd op een "contradictie in de wil" (de actie maakt het doel onbereikbaar voor de agent zelf, bijv. nooit helpen).

Resultaten en Demonstratie

De auteur demonstreert de werking van de FULL aan de hand van drie canonieke voorbeelden uit de Kantiaanse ethiek, waarbij formele bewijzen worden geleverd:

Valse Belofte (False Promising):
- Scenario: Karli wil geld lenen door een valse belofte te doen.
- Resultaat: In de WUL zou iedereen valse beloften doen, waardoor niemand nog gelooft. Hierdoor wordt een valse belofte in die wereld ineffectief als middel om geld te krijgen.
- Conclusie: Er ontstaat een contradictie tussen het willen van het doel (geld) en het willen van de universele wet (waarbij het doel niet bereikt kan worden). De handeling is onverenigbaar (Impermissible).
Moord (Murder):
- Scenario: Karli wil een concurrent vermoorden om de baan te krijgen.
- Resultaat: In de WUL zou iedereen anderen vermoorden om banen te krijgen. Hierdoor zou Karli zelf vermoord worden door een ander, waardoor ze de baan niet veilig kan bezitten.
- Conclusie: De actie is ineffectief in de WUL. Er ontstaat een contradictie. De handeling is onverenigbaar.
- Vergelijking: De logica onderscheidt dit van een chirurg die een patiënt snijdt (met toestemming), omdat in dat geval de actie in de WUL nog steeds effectief is om het doel (genezing) te bereiken.
Nooit Helsen (Never Helping):
- Scenario: Karli wil nooit anderen helpen om tijd voor vrije tijd te hebben.
- Resultaat: In de WUL helpt niemand elkaar. Omdat rationele agenten hulp nodig hebben om in leven te blijven (en dus om überhaupt een doel te kunnen willen), leidt dit tot een situatie waarin Karli niet in leven is.
- Conclusie: Dit creëert een "contradictie in de wil" (Karli wil leven, maar wil een wereld waar ze niet kan leven). De handeling is onverenigbaar, wat impliceert dat er een onperfecte plicht is om soms anderen te helpen.

Betekenis en Toekomst

De FULL biedt een robuustere en autonomere basis voor Artificial Moral Agents. Door morele oordelen af te leiden uit formele principes van rationaliteit en causaliteit in plaats van een statische lijst van regels, kunnen AMAs:

Omgaan met nieuwe situaties zonder dat mensen nieuwe axioma's hoeven te coderen.
Morele oordelen geven die rekening houden met de intentie van de agent.
Deeltijdig deelnemen aan moreel discours door de logica van hun oordelen te kunnen tonen.

Beperkingen en Toekomstig Werk:
De auteur erkent dat de logica nog een aanname maakt over hoe maximen worden geformuleerd (het "beschrijvingsprobleem": hoe beschrijf je een actie nauwkeurig genoeg?). Toekomstig werk richt zich op het uitbreiden van de expressiviteit (bijv. met gegeneraliseerde kwantificatoren voor "meeste" of "weinig") en het onderzoeken van model-theoretische benaderingen voor intentionele acties.

Samenvattend stelt de FULL een significant stap voorwaarts in de machine-ethiek door Kantiaanse ethiek te vertalen naar een formeel, berekenbaar systeem dat de complexiteit van menselijke intentie en causaliteit respecteert.