Sintesi Tecnica: Dalle Azioni agli Obblighi: Una Logica di Modello d'Azione Deontica

Enunciato del Problema

La logica deontica, che studia concetti normativi come obblighi e permessi, ha tradizionalmente faticato a integrare considerazioni epistemiche (ciò che gli agenti conoscono o credono) con la modellazione dinamica delle azioni. Sebbene estensioni come la logica STIT affrontino l'agenzia e la scelta, e le logiche deontiche dinamiche valutino gli obblighi rispetto alle azioni, tali quadri spesso mancano di meccanismi espliciti per il ragionamento in condizioni di incertezza. Al contrario, la Logica Epistemica Dinamica (DEL) e la Logica dei Modelli d'Azione (AML) eccellono nella modellazione degli aggiornamenti informativi ma mancano di strumenti formali per la valutazione normativa.

Esiste un vuoto critico nella modellazione di scenari in cui gli agenti devono selezionare azioni in presenza di informazioni incomplete per soddisfare vincoli normativi. Un esempio primario è il "Enigma dei Minatori", in cui l'azione ottimale dipende dalla desiderabilità degli esiti ponderata in base alla loro probabilità, un concetto non catturato naturalmente dalle modalità deontiche standard. I quadri esistenti spesso non forniscono una spiegazione rigorosa degli obblighi condizionati e sensibili al contesto nei sistemi multi-agente, dove gli agenti devono confrontare il valore deontico atteso di azioni alternative.

Metodologia

Il documento introduce la Logica dei Modelli d'Azione Deontica (DAML), un quadro modale dinamico che sintetizza la Logica dei Modelli d'Azione (AML) con una semantica "bayesiana" per le modalità deontiche, ispirata al lavoro di Lassiter. La metodologia procede attraverso i seguenti passaggi:

1. Fondamento Semantico:

   • Il quadro utilizza Modelli di Kripke Graduati ($M = \langle W, R_i, V, f \rangle$), dove una funzione di desiderabilità $f: W \to \mathbb{N}$ assegna un valore morale o pratico a ogni mondo possibile.
   • I Modelli d'Azione ($U = \langle E, Q_i, pre \rangle$) sono impiegati per simulare le conseguenze epistemiche e fisiche delle azioni degli agenti tramite l'operazione di aggiornamento prodotto ($M \otimes U$).
   • Per gestire l'incertezza, la logica definisce Sottomodelli Generati da Azioni Basati sull'Agente. Questi sono sottomodelli del modello di Kripke aggiornato costruiti dalla prospettiva di un agente specifico $i$ e di un'azione specifica $\alpha_i$.

2. Aspettativa Deontica:

   • Il meccanismo centrale è la Funzione di Aspettativa Deontica ($E_i$), che calcola il valore deontico atteso di un'azione. Questo è calcolato come la media dei valori di desiderabilità ($f(w)$) di tutti i mondi accessibili all'agente $i$ all'interno del sottomodello generato dall'azione, assumendo una distribuzione di probabilità uniforme sui mondi accessibili.
   • Un'azione è considerata "migliore" se produce il valore deontico atteso più alto tra le alternative disponibili in un punto decisionale.

3. Linguaggio Logico e Semantica:

   • Il linguaggio $L_{DAML}$ estende l'AML con due nuovi elementi:
     • Atomi di Aspettativa ($e^{\alpha_i}_i$): Proposizioni atomiche vere se il valore deontico atteso dell'azione $\alpha_i$ è maggiore o uguale a quello di qualsiasi altra azione disponibile.
     • Modalità di Obbligo ($O_i(U, \alpha_i | \phi)$): Una modalità binaria letta come "L'agente $i$ dovrebbe compiere l'azione $\alpha_i$ sotto la condizione $\phi$".
   • Condizioni di Verità: $O_i(U, \alpha_i | \phi)$ vale se e solo se:
     1. $\phi$ vale dopo l'esecuzione dell'azione $\alpha_i$ (condizione dinamica).
     2. Il sottomodello generato dall'azione risultante da $\alpha_i$ ha il valore deontico atteso massimo rispetto ad altre azioni (condizione normativa).
   • Questa formulazione aderisce al principio STIT: l'agente "fa sì che" si ottenga il miglior esito atteso.

4. Assiomatizzazione:

   • Il documento fornisce un'assiomatizzazione completa per DAML. Include assiomi standard AML, nuovi assiomi per gli atomi di aspettativa (E1, E2) e un insieme di assiomi di riduzione (R1–R6).
   • Questi assiomi di riduzione permettono di tradurre qualsiasi formula contenente l'operatore deontico $O_i$ in una formula equivalente nel linguaggio dell'AML (senza operatori deontici), facilitando le prove di correttezza e completezza.

Contributi Chiave

• Integrazione di Dinamica e Norme: DAML è il primo quadro che deriva obblighi utilizzando la macchina della Logica dei Modelli d'Azione, collegando esplicitamente le conseguenze epistemiche delle azioni alla loro valutazione normativa.
• Semantica Deontica Scalare: La logica modella le affermazioni deontiche in modo scalare, assegnando valori di desiderabilità ai mondi e calcolando valori attesi, evitando così le trappole binarie "tutto o niente" della logica deontica tradizionale in ambienti incerti.
• Gestione Formale degli Obblighi Condizionati: La logica introduce una definizione rigorosa per gli obblighi condizionati ($O_i(\alpha_i | \phi)$) che dipendono sia dall'esito dell'azione sia dalla massimizzazione del valore deontico atteso.
• Prova di Correttezza e Completezza: Il documento stabilisce che il sistema di prova DAML è corretto e completo rispetto alla sua semantica. Ciò è ottenuto riducendo il linguaggio deontico al linguaggio completo noto dell'AML.

Risultati e Applicazioni

Il documento dimostra il potere espressivo di DAML attraverso due applicazioni principali:

1. L'Enigma dei Minatori:

   • Il quadro modella con successo lo scenario in cui un agente deve scegliere tra bloccare il pozzo A, bloccare il pozzo B o non bloccare nessuno.
   • Calcolando i valori deontici attesi dei sottomodelli risultanti, DAML identifica correttamente che "non bloccare nessun pozzo" è l'azione obbligatoria, poiché massimizza il numero atteso di vite salvate data l'ignoranza dell'agente sulla posizione dei minatori. Ciò contrasta con azioni che potrebbero salvare tutti i minatori se la posizione fosse nota, ma rischiano di ucciderli tutti se indovinate erroneamente.

2. Obbligo di Informare (Scenario Multi-Agente):

   • Viene modellato uno scenario complesso che coinvolge due agenti (Alice e Bethany) e un paziente con un'allergia.
   • La logica cattura l'asimmetria informativa: Bethany sa che il paziente è allergico, mentre Alice non lo sa.
   • DAML deriva che Bethany ha l'obbligo di informare Alice ($O_b(\delta_b | \dots)$) perché, condizionatamente al fatto che Alice sappia dell'allergia, Alice sarebbe obbligata a somministrare il farmaco sicuro. Il quadro ragiona con successo attraverso la catena ipotetica di azioni e aggiornamenti informativi per determinare il requisito normativo per l'agente informato.

Significato e Affermazioni

Il documento afferma che DAML fornisce un quadro rigoroso per la selezione delle azioni in sistemi multi-agente governati da norme che operano sotto incertezza epistemica. Il suo significato risiede in:

• Ragionamento Unificato: Permette agli agenti di valutare le conseguenze di azioni alternative prima dell'esecuzione, considerando sia la riduzione dell'incertezza sia la desiderabilità normativa degli esiti.
• Gestione di Casi Intermedi: Il quadro supporta il ragionamento in casi in cui le informazioni sono incomplete e nessun singolo criterio (certezza o esito) è pienamente ottimizzato, una caratteristica comune nel processo decisionale reale.
• Contributo Fondamentale: Radicando la logica deontica nella macchina dinamica dell'AML, il documento offre un metodo robusto per formalizzare come gli agenti dovrebbero agire quando non conoscono il pieno stato del mondo ma devono comunque aderire a vincoli normativi.

Gli autori mantengono un ambito modesto, notando che il lavoro attuale assume una probabilità uniforme sui mondi accessibili e valori di desiderabilità oggettivi. Si suggerisce che il lavoro futuro includa misure di probabilità esplicite, operatori di credenza graduati e linguaggi d'azione più complessi per gestire scelte non deterministiche e obblighi conflittuali.