Resumen Técnico: De las Acciones a las Obligaciones: Una Lógica de Modelo de Acción Deontica

Enunciado del Problema

La lógica deontica, que estudia conceptos normativos como obligaciones y permisos, ha tenido tradicionalmente dificultades para integrar consideraciones epistémicas (lo que los agentes saben o creen) con la modelización dinámica de acciones. Aunque extensiones como la lógica STIT abordan la agencia y la elección, y las lógicas deonticas dinámicas evalúan las obligaciones en relación con las acciones, estos marcos a menudo carecen de mecanismos explícitos para el razonamiento bajo incertidumbre. Por el contrario, la Lógica Epistémica Dinámica (DEL) y la Lógica de Modelo de Acción (AML) sobresalen en la modelización de actualizaciones de información, pero carecen de herramientas formales para la evaluación normativa.

Existe una brecha crítica en la modelización de escenarios donde los agentes deben seleccionar acciones bajo información incompleta para satisfacer restricciones normativas. Un ejemplo primordial es el "Enigma de los Mineros", donde la acción óptima depende de la deseabilidad de los resultados ponderada por su probabilidad, un concepto que no se captura naturalmente mediante las modalidades deonticas estándar. Los marcos existentes a menudo fallan en proporcionar una cuenta fundamentada de las obligaciones condicionales y sensibles al contexto en sistemas multiagente, donde los agentes deben comparar el valor deontico esperado de acciones alternativas.

Metodología

El artículo introduce la Lógica de Modelo de Acción Deontica (DAML), un marco modal dinámico que sintetiza la Lógica de Modelo de Acción (AML) con una semántica "bayesiana" para los modales deonticos, inspirada en el trabajo de Lassiter. La metodología procede a través de los siguientes pasos:

1. Fundamento Semántico:

   • El marco utiliza Modelos de Kripke Gradados ($M = \langle W, R_i, V, f \rangle$), donde una función de deseabilidad $f: W \to \mathbb{N}$ asigna un valor moral o práctico a cada mundo posible.
   • Se emplean Modelos de Acción ($U = \langle E, Q_i, pre \rangle$) para simular las consecuencias epistémicas y físicas de las acciones de los agentes mediante la operación de actualización de producto ($M \otimes U$).
   • Para manejar la incertidumbre, la lógica define Submodelos Generados por Acción Basados en Agentes. Estos son submodelos del modelo de Kripke actualizado construidos desde la perspectiva de un agente específico $i$ y una acción específica $\alpha_i$.

2. Expectativa Deontica:

   • El mecanismo central es la Función de Expectativa Deontica ($E_i$), que calcula el valor deontico esperado de una acción. Esto se computa como el promedio de los valores de deseabilidad ($f(w)$) de todos los mundos accesibles para el agente $i$ dentro del submodelo generado por la acción, asumiendo una distribución de probabilidad uniforme sobre los mundos accesibles.
   • Una acción se considera "mejor" si produce el mayor valor deontico esperado entre las alternativas disponibles en un punto de decisión.

3. Lenguaje Lógico y Semántica:

   • El lenguaje $L_{DAML}$ extiende la AML con dos nuevos elementos:
     • Átomos de Expectativa ($e^{\alpha_i}_i$): Proposiciones atómicas que son verdaderas si el valor deontico esperado de la acción $\alpha_i$ es mayor o igual que el de cualquier otra acción disponible.
     • Modalidad de Obligación ($O_i(U, \alpha_i | \phi)$): Una modalidad binaria que se lee "El agente $i$ debe realizar la acción $\alpha_i$ bajo la condición $\phi$".
   • Condiciones de Verdad: $O_i(U, \alpha_i | \phi)$ se cumple si y solo si:
     1. $\phi$ se cumple después de la ejecución de la acción $\alpha_i$ (condición dinámica).
     2. El submodelo generado por la acción resultante de $\alpha_i$ tiene el valor deontico esperado máximo en comparación con otras acciones (condición normativa).
   • Esta formulación se adhiere al principio STIT: el agente "hace que se cumpla" que se obtenga el resultado esperado mejor.

4. Axiomatización:

   • El artículo proporciona una axiomatización completa para DAML. Incluye axiomas estándar de AML, nuevos axiomas para átomos de expectativa (E1, E2) y un conjunto de axiomas de reducción (R1–R6).
   • Estos axiomas de reducción permiten traducir cualquier fórmula que contenga el operador deontico $O_i$ en una fórmula equivalente en el lenguaje de AML (sin operadores deonticos), facilitando las pruebas de corrección y completitud.

Contribuciones Clave

• Integración de Dinámica y Normas: DAML es el primer marco que deriva obligaciones utilizando la maquinaria de la Lógica de Modelo de Acción, vinculando explícitamente las consecuencias epistémicas de las acciones con su evaluación normativa.
• Semántica Deontica Escalar: La lógica modela las declaraciones deonticas de manera escalar, asignando valores de deseabilidad a los mundos y calculando valores esperados, evitando así las trampas binarias de "todo o nada" de la lógica deontica tradicional en entornos inciertos.
• Manejo Formal de Obligaciones Condicionales: La lógica introduce una definición rigurosa para las obligaciones condicionales ($O_i(\alpha_i | \phi)$) que dependen tanto del resultado de la acción como de la maximización del valor deontico esperado.
• Prueba de Corrección y Completitud: El artículo establece que el sistema de pruebas de DAML es correcto y completo con respecto a su semántica. Esto se logra reduciendo el lenguaje deontico al lenguaje completo conocido de AML.

Resultados y Aplicaciones

El artículo demuestra el poder expresivo de DAML a través de dos aplicaciones principales:

1. El Enigma de los Mineros:

   • El marco modela con éxito el escenario donde un agente debe elegir entre bloquear el pozo A, bloquear el pozo B o no bloquear ninguno.
   • Al calcular los valores deonticos esperados de los submodelos resultantes, DAML identifica correctamente que "no bloquear ningún pozo" es la acción obligatoria, ya que maximiza el número esperado de vidas salvas dada la ignorancia del agente sobre la ubicación de los mineros. Esto contrasta con acciones que podrían salvar a todos los mineros si se conociera la ubicación, pero que arriesgan matar a todos si se adivina incorrectamente.

2. Obligación de Informar (Escenario Multiagente):

   • Se modela un escenario complejo que involucra a dos agentes (Alice y Bethany) y un paciente con una alergia.
   • La lógica captura la asimetría de información: Bethany sabe que el paciente es alérgico, mientras que Alice no lo sabe.
   • DAML deriva que Bethany tiene la obligación de informar a Alice ($O_b(\delta_b | \dots)$) porque, bajo la condición de que Alice conozca la alergia, Alice estaría obligada a administrar el medicamento seguro. El marco razona con éxito a través de la cadena hipotética de acciones y actualizaciones de información para determinar el requisito normativo para el agente informado.

Significado y Afirmaciones

El artículo afirma que DAML proporciona un marco fundamentado para la selección de acciones en sistemas multiagente gobernados por normas que operan bajo incertidumbre epistémica. Su significado radica en:

• Razonamiento Unificado: Permite a los agentes evaluar las consecuencias de acciones alternativas antes de su ejecución, considerando tanto la reducción de la incertidumbre como la deseabilidad normativa de los resultados.
• Manejo de Casos Intermedios: El marco apoya el razonamiento en casos donde la información es incompleta y ningún criterio único (certeza o resultado) está completamente optimizado, una característica común en la toma de decisiones del mundo real.
• Contribución Fundamental: Al fundamentar la lógica deontica en la maquinaria dinámica de AML, el artículo ofrece un método robusto para formalizar cómo deben actuar los agentes cuando no conocen el estado completo del mundo, pero aún deben adherirse a restricciones normativas.

Los autores mantienen un alcance modesto, señalando que el trabajo actual asume una probabilidad uniforme sobre los mundos accesibles y valores de deseabilidad objetivos. Se sugiere trabajo futuro para incluir medidas de probabilidad explícitas, operadores de creencia graduados y lenguajes de acción más complejos para manejar elecciones no deterministas y obligaciones conflictivas.