A Contractualist Argumentation Framework for Moral Decision-Making

Resumen Técnico: Un Marco de Argumentación Contractualista para la Toma de Decisiones Morales

Planteamiento del Problema
Los agentes autónomos que operan en entornos compartidos (por ejemplo, entornos domésticos con electrodomésticos inteligentes o robots sociales) enfrentan el desafío de tomar decisiones que afectan a múltiples individuos con intereses potencialmente conflictivos. Si bien los modelos de lenguaje extensos pueden razonar sobre el contexto social a partir de la percepción sensorial, existe una falta de marcos normativos basados en principios para estructurar este razonamiento de manera formal. Los enfoques existentes a menudo no logran proporcionar un mecanismo para que los agentes justifiquen sus acciones ante todas las partes involucradas basándose en principios que respeten la autonomía individual y la moralidad interpersonal. El problema central es cómo operacionalizar la toma de decisiones morales de tal manera que la legitimidad de una decisión dependa no solo del resultado, sino de si puede ser justificada ante todas las partes afectadas mediante un proceso de negociación hipotética.

Metodología
Los autores proponen un marco formal fundamentado en el contractualismo de Thomas Scanlon, una teoría ética donde una acción es permisible si puede ser justificada mediante principios que ninguna parte afectada pueda rechazar razonablemente. Para implementar esto computacionalmente, el marco integra tres componentes principales:

1. Principios Contractualistas: El marco adopta las restricciones de Scanlon sobre las razones morales: estas deben ser personales (relacionadas con intereses individuales), individuales (basadas en impactos específicos en lugar del bienestar agregado) y genéricas (aplicables a cualquiera en una posición similar). El proceso de decisión se modela como "Negociación Virtual", donde los agentes simulan una negociación comparando razones a través de diferentes perspectivas.
2. Argumentación ASPIC+: Los autores utilizan ASPIC+, un marco de argumentación estructurado, para representar y evaluar estas razones. Los argumentos se construyen a partir de una base de conocimientos que contiene axiomas (hechos indiscutibles) y premisas ordinarias (hechos cuestionables). Los conflictos se resuelven mediante ataques (debilitamiento, refutación, socavamiento) y un orden de preferencia.
3. Filtrado Basado en Valores (VBF): Para asegurar que las razones sean relevantes, el marco emplea Marcos de Razonamiento Basados en Valores. Un mecanismo de filtrado determina qué premisas se incluyen en el proceso de argumentación basándose en el perfil de valores de un agente.
   • ValProp: Asigna un peso a cuánto promueve o viola una proposición un valor específico para un agente.
   • ValLimit: Establece un umbral de tolerancia de un agente respecto a un valor.
   • Filtrado: Una proposición se incluye en la argumentación solo si su peso alcanza o supera su límite para ese valor. Esto asegura que solo las razones "moralmente relevantes" (aquellas que un agente plantearía razonablemente) entren en el debate.

Construcción del Marco (Teoría de la Argumentación Contractualista - CAT)
Los autores definen una estructura específica para la Teoría de la Argumentación (AT) para asegurar la compatibilidad con el contractualismo:

• AT Única Compartida: A diferencia de los VBF estándar que crean teorías subjetivas separadas para cada agente, este marco construye una única AT que contiene las razones morales filtradas de todos los agentes.
• Estructura de los Argumentos: Los argumentos se construyen para concluir ya sea a favor de una acción ($a$) o en contra de ella ($\neg a$). Crucialmente, cada argumento debe contener al menos una razón moral (un par proposición-valor filtrado, $p_v(\alpha)$) y debe concluir con el veredicto de la acción.
• Separación de Hechos y Moralidad: Las premisas fácticas (axiomas) se mantienen distintas de las premisas morales. Los axiomas establecen condiciones estructurales (por ejemplo, "El Agente X es el propietario"), mientras que las premisas morales portan el peso de la objeción (por ejemplo, "Violación de la privacidad").
• Resolución de Conflictos: Los conflictos surgen como ataques de refutación entre argumentos que concluyen $a$ y $\neg a$. El marco utiliza un principio elitista de último enlace para el orden de preferencia. Dado que cada argumento contiene solo una razón moral (para evitar la agregación de razones, lo cual el contractualismo prohíbe), la fuerza del argumento se determina únicamente por el peso de esa única razón moral ($ValProp$). El argumento con el peso mayor derrota al de menor peso.

Ejemplo Ilustrativo
El artículo demuestra el marco con un escenario doméstico: un agente sabe que la persona $\alpha$ fumó secretamente, y la persona $\beta$ (la pareja) pide información. El agente debe decidir si divulgar ($a$) o no ($\neg a$).

• Agente $\alpha$: Valora altamente la privacidad. La proposición "divulgación" viola la privacidad con un peso alto (3). Se construye un argumento que concluye $\neg a$.
• Agente $\beta$: Valora la autonomía. Retener la información viola la autonomía, pero con un peso menor (2) en esta configuración específica. Se construye un argumento que concluye $a$.
• Resultado: El marco compara los pesos. Dado que el peso de la objeción de privacidad de $\alpha$ (3) es mayor que la objeción de autonomía de $\beta$ (2), el argumento para $\neg a$ derrota al argumento para $a$. El sistema decide no divulgar la información.

Contribuciones Clave

• Formalización del Contractualismo: El artículo proporciona una formalización computable del contractualismo de Scanlon mediante la argumentación estructurada, pasando de la discusión teórica a un modelo procedimental.
• Construcción de Razonamiento Basado en Valores: A diferencia de los enfoques donde los valores solo resuelven conflictos entre argumentos preexistentes, este marco utiliza los valores para filtrar y construir los argumentos mismos. Esto asegura que los agentes solo presenten razones que realmente sostienen, alineándose con el requisito contractualista de justificación personal.
• Implementación de la Negociación Virtual: El marco operacionaliza la "Negociación Virtual" permitiendo que las razones subjetivas de los agentes interactúen directamente dentro de un marco compartido, donde la relación de derrota determina qué objeciones son "razonablemente rechazables".
• Distinción de Trabajos Previos: Los autores distinguen su enfoque de los modelos de red de Wyner y Zurek. Mientras que Wyner y Zurek se centran en alcanzar un acuerdo proposicional sacrificando valores, este marco se centra en justificar acciones basadas en razones no rechazables, haciendo que los valores sean componentes explícitos de la argumentación en lugar de filtros implícitos.

Resultados y Significado
El artículo no presenta resultados experimentales empíricos ni simulaciones a gran escala. En su lugar, su "resultado" es la construcción exitosa de un marco lógico que:

1. Separa el razonamiento fáctico de la evaluación moral.
2. Respeta la autonomía individual al prevenir la agregación de razones (utilitarismo) y asegurar que las objeciones estén fundamentadas en perspectivas individuales.
3. Proporciona un mecanismo transparente para la toma de decisiones morales donde el "ganador" se determina por la fuerza comparativa de las objeciones no agregadas y basadas en valores.

Significancia y Limitaciones
Los autores afirman que el marco es significativo para el desarrollo de una IA éticamente alineada, particularmente para robots sociales, ya que refleja la tendencia humana de confiar en agentes que utilizan el razonamiento contractualista sobre el utilitarista o deontológico. Ofrece una implementación más flexible que los intentos previos al apoyarse en valores en lugar de normas rígidas.

Sin embargo, el artículo es modesto respecto a su alcance actual y limitaciones:

• Veredictos de un Solo Paso: El modelo actual produce una única decisión y no modela el diálogo iterativo de múltiples turnos característico de la negociación virtual del mundo real.
• Preferencias Estáticas: El marco depende de pesos de valores predefinidos. Actualmente no modela cómo los agentes podrían manipular las preferencias para controlar los resultados, ni cómo aprenden valores dinámicamente del contexto.
• Complejidad Computacional: Los autores reconocen que el razonamiento en ASPIC+ es computacionalmente difícil en el caso general, y que se requiere trabajo futuro para analizar la complejidad de la instanciación de argumentos mediante Modelos de Lenguaje Extensos (LLMs).
• Alcance de los Valores: El marco no puede descubrir nuevos valores; su cobertura está limitada por la ontología de valores proporcionada.

En resumen, el artículo presenta una arquitectura teórica y formal para la toma de decisiones morales que cierra la brecha entre la teoría ética de alto nivel (el contractualismo de Scanlon) y el razonamiento computacional de bajo nivel (ASPIC+), ofreciendo un camino estructurado para que los agentes justifiquen sus acciones mediante la comparación de razones individuales basadas en valores.