Technische Samenvatting: Van Acties naar Verplichtingen: Een Deontisch Actiemodellogica

Probleemstelling

De deontische logica, die normatieve concepten zoals verplichtingen en toestemmingen bestudeert, heeft traditioneel moeite gehad om epistemische overwegingen (wat agenten weten of geloven) te integreren met dynamische actiemodellering. Hoewel uitbreidingen zoals STIT-logica agenterschap en keuze behandelen, en dynamische deontische logica's verplichtingen evalueren ten opzichte van acties, missen deze kaders vaak expliciete mechanismen voor redeneren onder onzekerheid. Omgekeerd blinken Dynamische Epistemische Logica (DEL) en Actiemodellogica (AML) uit in het modelleren van informatievernieuwingen, maar missen ze formele hulpmiddelen voor normatieve evaluatie.

Er bestaat een kritieke kloof in het modelleren van scenario's waarin agenten handelingen moeten kiezen onder onvolledige informatie om aan normatieve beperkingen te voldoen. Een prime voorbeeld is het "Mijnwerkerspuzzel", waarbij de optimale handeling afhangt van de wenselijkheid van uitkomsten, gewogen naar hun waarschijnlijkheid; een concept dat niet natuurlijk wordt vastgelegd door standaard deontische modaliteiten. Bestaande kaders falen vaak om een principieel verslag te geven van conditionele en context-gevoelige verplichtingen in multi-agent systemen, waar agenten de verwachte deontische waarde van alternatieve acties moeten vergelijken.

Methodologie

Het artikel introduceert Deontische Actiemodellogica (DAML), een dynamisch modaal kader dat Actiemodellogica (AML) synthetiseert met een "Bayesiaanse" semantiek voor deontische modaliteiten, geïnspireerd door het werk van Lassiter. De methodologie verloopt via de volgende stappen:

1. Semantische Grondslag:

   • Het kader maakt gebruik van Gegradeerde Kripke-modellen ($M = \langle W, R_i, V, f \rangle$), waarbij een wenselijkheidsfunctie $f: W \to \mathbb{N}$ een morele of praktische waarde toekent aan elke mogelijke wereld.
   • Actiemodellen ($U = \langle E, Q_i, pre \rangle$) worden ingezet om de epistemische en fysieke gevolgen van acties van agenten te simuleren via de product-update operatie ($M \otimes U$).
   • Om met onzekerheid om te gaan, definieert de logica Agent-gebaseerde, Actie-gegenereerde Submodellen. Dit zijn submodellen van het bijgewerkte Kripke-model, geconstrueerd vanuit het perspectief van een specifieke agent $i$ en een specifieke actie $\alpha_i$.

2. Deontische Verwachting:

   • Het kernmechanisme is de Deontische Verwachtingsfunctie ($E_i$), die de verwachte deontische waarde van een actie berekent. Dit wordt berekend als het gemiddelde van de wenselijkheidswaarden ($f(w)$) van alle werelden die toegankelijk zijn voor agent $i$ binnen het actie-gegenereerde submodel, uitgaande van een uniforme waarschijnlijkheidsverdeling over de toegankelijke werelden.
   • Een actie wordt als "beste" beschouwd als deze de hoogste verwachte deontische waarde oplevert onder de beschikbare alternatieven op een beslispunt.

3. Logische Taal en Semantiek:

   • De taal $L_{DAML}$ breidt AML uit met twee nieuwe elementen:
     • Verwachtingsatomen ($e^{\alpha_i}_i$): Atomische proposities die waar zijn als de verwachte deontische waarde van actie $\alpha_i$ groter is dan of gelijk is aan die van elke andere beschikbare actie.
     • Verplichtingsmodaliteit ($O_i(U, \alpha_i | \phi)$): Een binaire modaliteit die leest als "Agent $i$ moet actie $\alpha_i$ uitvoeren onder voorwaarde $\phi$."
   • Waarheidvoorwaarden: $O_i(U, \alpha_i | \phi)$ geldt dan en slechts dan als:
     1. $\phi$ geldt na de uitvoering van actie $\alpha_i$ (dynamische voorwaarde).
     2. Het actie-gegenereerde submodel dat voortvloeit uit $\alpha_i$ de maximale verwachte deontische waarde heeft vergeleken met andere acties (normatieve voorwaarde).
   • Deze formulering voldoet aan het STIT-principe: de agent "ziet erop toe" dat het beste verwachte resultaat wordt behaald.

4. Axiomatisatie:

   • Het artikel biedt een volledige axiomatisatie voor DAML. Deze omvat standaard AML-axioma's, nieuwe axioma's voor verwachtingsatomen (E1, E2), en een reeks reductie-axioma's (R1–R6).
   • Deze reductie-axioma's stellen elke formule die de deontische operator $O_i$ bevat in staat om te worden vertaald naar een equivalente formule in de taal van AML (zonder deontische operators), wat bewijzen van correctheid en volledigheid faciliteert.

Belangrijkste Bijdragen

• Integratie van Dynamiek en Normen: DAML is het eerste kader dat verplichtingen afleidt met behulp van de mechanismen van Actiemodellogica, en expliciet de epistemische gevolgen van acties koppelt aan hun normatieve evaluatie.
• Scalar Deontische Semantiek: De logica modelleert deontische uitspraken op een scalaire manier, door wenselijkheidswaarden toe te kennen aan werelden en verwachte waarden te berekenen, waardoor de valkuilen van de traditionele deontische logica in onzekere omgevingen worden vermeden, die vaak vastzitten aan een binair "alles-of-niets"-principe.
• Formele Behandeling van Conditionele Verplichtingen: De logica introduceert een rigoureuze definitie voor conditionele verplichtingen ($O_i(\alpha_i | \phi)$) die afhankelijk zijn van zowel het resultaat van de actie als de maximalisatie van de verwachte deontische waarde.
• Bewijs van Correctheid en Volledigheid: Het artikel stelt vast dat het DAML-bewijsstelsel correct en volledig is met betrekking tot zijn semantiek. Dit wordt bereikt door de deontische taal te reduceren tot de bekende volledige taal van AML.

Resultaten en Toepassingen

Het artikel demonstreert de uitdrukkingskracht van DAML via twee primaire toepassingen:

1. Het Mijnwerkerspuzzel:

   • Het kader modelleert succesvol het scenario waarin een agent moet kiezen tussen het blokkeren van schacht A, het blokkeren van schacht B, of het blokkeren van geen enkele schacht.
   • Door de verwachte deontische waarden van de resulterende submodellen te berekenen, identificeert DAML correct dat "geen enkele schacht blokkeren" de verplichte actie is, omdat dit het verwachte aantal geredde levens maximaliseert, gegeven de onwetendheid van de agent over de locatie van de mijnwerkers. Dit staat in contrast met acties die alle mijnwerkers zouden kunnen redden als de locatie bekend was, maar het risico lopen om allen te doden als er verkeerd wordt gegokt.

2. Verplichting tot Informeren (Multi-Agent Scenario):

   • Een complex scenario met twee agenten (Alice en Bethany) en een patiënt met een allergie wordt gemodelleerd.
   • De logica vangt de asymmetrie van informatie: Bethany weet dat de patiënt allergisch is, terwijl Alice dit niet weet.
   • DAML leidt af dat Bethany de verplichting heeft om Alice te informeren ($O_b(\delta_b | \dots)$), omdat, conditioneel op het feit dat Alice de allergie kent, Alice verplicht zou zijn om het veilige medicijn toe te dienen. Het kader redeneert succesvol door de hypothetische keten van acties en informatievernieuwingen om de normatieve vereiste voor de geïnformeerde agent te bepalen.

Betekenis en Aanspraken

Het artikel beweert dat DAML een principieel kader voor actiekeuze biedt in norm-gestuurde multi-agent systemen die opereren onder epistemische onzekerheid. De betekenis hiervan ligt in:

• Gecombineerd Redeneren: Het stelt agenten in staat om de gevolgen van alternatieve acties voorafgaand aan de uitvoering te evalueren, waarbij zowel de vermindering van onzekerheid als de normatieve wenselijkheid van uitkomsten worden overwogen.
• Behandeling van Intermediaire Gevallen: Het kader ondersteunt redeneren in gevallen waarin informatie onvolledig is en geen enkel criterium (zekerheid of uitkomst) volledig wordt geoptimaliseerd; een veelvoorkomend kenmerk in besluitvorming in de echte wereld.
• Fundamentele Bijdrage: Door deontische logica te verankeren in de dynamische mechanismen van AML, biedt het artikel een robuuste methode om te formaliseren hoe agenten moeten handelen wanneer ze de volledige staat van de wereld niet kennen, maar toch moeten voldoen aan normatieve beperkingen.

De auteurs houden een bescheiden omvang aan, waarbij zij opmerken dat het huidige werk uitgaat van een uniforme waarschijnlijkheid over toegankelijke werelden en objectieve wenselijkheidswaarden. Voor toekomstig werk wordt voorgesteld om expliciete waarschijnlijkheidsmaten, gegradeerde geloofsoperators en complexere actietalen op te nemen om niet-deterministische keuzes en conflicterende verplichtingen te behandelen.