Resumen Técnico: ¿Pueden los LLM imaginar alternativas morales más allá de los dilemas binarios?

Planteamiento del Problema

La investigación existente sobre el razonamiento moral en los Modelos de Lenguaje de Gran Escala (LLM) predominantemente enmarca la toma de decisiones éticas como una tarea de selección entre opciones competitas y preespecificadas (por ejemplo, Opción A frente a Opción B). Este encuadre binario pasa por alto un aspecto central de la cognición moral humana: la imaginación moral, definida como la capacidad de identificar cursos de acción novedosos, anticipar sus consecuencias y trascender las elecciones forzadas de "esto o aquello". Las evaluaciones actuales no logran determinar si los LLM pueden (1) cambiar sus juicios cuando se les presentan alternativas no binarias (compromisos o opciones reencuadradas) y (2) generar tales alternativas matizadas con una calidad comparable a las de autoría humana. Esta brecha limita la capacidad de los sistemas de IA para funcionar como agentes morales sofisticados en entornos de alto riesgo donde los conflictos de valores requieren reconciliación en lugar de una simple selección.

Metodología

Construcción del Conjunto de Datos: MoralAltDataset

Los autores introducen el MoralAltDataset, un corpus de 307 dilemas morales diseñados para evaluar la imaginación moral. El conjunto de datos se divide en dos subconjuntos complementarios:

1. Dilemas de Asesor (156 ítems): Derivados de sinopsis de tramas cinematográficas (conjunto de datos MPST), estos proporcionan conflictos humanos ricos en contexto y de naturaleza narrativa.
2. Dilemas de Agente (151 ítems): Adaptados del marco Litmus-Testing AI Values, cubren escenarios realistas y de alto riesgo que los sistemas de IA podrían encontrar (por ejemplo, atención médica, gestión de residuos).

Cada dilema se aumenta con dos tipos distintos de alternativas más allá de las opciones binarias originales (A y B):

• Alternativa de Compromiso (Opción C): Equilibra los objetivos contrapuestos de A y B mediante un intercambio concreto, preservando al menos un objetivo moral central de cada lado.
• Alternativa de Reencuadre (Opción D): Reestructura el dilema mismo mediante la introducción de nuevos principios, la aparición de partes interesadas ausentes o la redefinición del alcance o el marco temporal del conflicto.

Fuentes de Datos:

• Línea Base Humana: 164 dilemas cuentan con alternativas escritas por humanos (75 de Asesor, 89 de Agente) creadas por anotadores de nivel de posgrado.
• Generación por LLM: 143 dilemas cuentan con alternativas filtradas por autor generadas por GPT-5.
• Total: El conjunto de datos final de elección de cuatro opciones incluye 307 dilemas, con datos de juicio humano recolectados de 1,535 respuestas (5 participantes por dilema) bajo condiciones controladas.

Diseño Experimental

El estudio aborda dos preguntas de investigación primarias a través de dos configuraciones experimentales:

1. Sensibilidad de Selección (Q1): ¿Cambian los LLM sus juicios cuando se introducen alternativas?

   • Configuración: Una tarea de elección de cuatro opciones (A, B, C, D) presentada a 15 LLM (incluyendo familias de GPT, Claude, Gemini, Llama, Qwen y Mistral) y participantes humanos.
   • Métricas: Tasas de selección, cambios de valor (usando el marco LITMUS VALUES) y acuerdo humano-LLM (medido mediante F1 de 4 vías y acuerdo a nivel de grupo).

2. Calidad de Generación (Q2): ¿Pueden los LLM generar alternativas comparables a las humanas?

   • Configuración: Los LLM generaron alternativas de compromiso y de reencuadre para los 164 dilemas escritos por humanos.
   • Evaluación:
     • Preferencia por Pares: Los evaluadores compararon las salidas de Humano vs. LLM frente a frente basándose en criterios como Factibilidad, Equilibrio, Reencuadre y Aceptabilidad Moral.
     • Evaluación Intrínseca Basada en Expertos: Tres especialistas en filosofía evaluaron 100 instancias frente a listas de verificación detalladas sobre la calidad de la generación (por ejemplo, Validez del Escenario, Mecanismo de Intercambio) y marcos éticos (Deontología, Utilitarismo, Ética de la Virtud).

Resultados Clave

1. Las Alternativas Remodelan el Juicio Moral

• Preferencia por el Compromiso: A través de humanos y 15 LLM, la introducción de alternativas alteró significativamente las distribuciones de elección. Las alternativas de compromiso (Opción C) fueron la opción seleccionada con mayor frecuencia, recibiendo a menudo una participación de elecciones superior a las opciones binarias originales.
• Comportamiento de los Modelos: Los modelos de pesos cerrados (por ejemplo, GPT-5, Claude) mostraron una preferencia fuerte y consistente por el compromiso sobre el reencuadre. Los modelos de pesos abiertos exhibieron mayor heterogeneidad.
• Cambios de Valor: La presencia de alternativas desplazó sistemáticamente los valores éticos priorizados por los LLM. En los dilemas de Asesor, los modelos pasaron de la autonomía/respeto hacia la Sabiduría y la prudencia. En los dilemas de Agente, hubo un desplazamiento hacia la Cooperación y la Adaptabilidad, alejándose de valores rígidos basados en reglas como la Justicia y el Profesionalismo.
• Acuerdo Humano-LLM: Aunque el acuerdo de 4 vías exacto fue modesto, el acuerdo aumentó significativamente cuando los humanos seleccionaron alternativas. Los LLM se alinearon con las elecciones humanas en el grupo de "alternativas" (C/D) mucho más fuertemente que en el grupo "binario" (A/B), particularmente para las soluciones de compromiso.

2. Los LLM Generan Alternativas de Alta Calidad

• Preferencia sobre los Humanos: En las evaluaciones de preferencia por pares, las alternativas generadas por LLM (específicamente GPT-5, Claude Sonnet 4.5 y Qwen 3.5) fueron generalmente preferidas sobre las de autoría humana. Se percibieron como más claras, mejor estructuradas y más alineadas con la función pretendida del tipo de alternativa.
• Intercambio entre Estructura y Factibilidad: Surgió un intercambio crítico. Modelos como GPT-5 destacaron en criterios estructurales (por ejemplo, reglas de intercambio explícitas, novedad moral) pero obtuvieron puntuaciones más bajas en Factibilidad en comparación con modelos como Claude Sonnet 4.5 y Qwen 3.5. Esto sugiere que enfatizar las características definitorias de una alternativa (por ejemplo, un equilibrio perfecto) puede, en ocasiones, reducir su fundamentación práctica.
• Alineación Ética: GPT-5 alcanzó las puntuaciones más altas en las tres dimensiones éticas (Deontología, Utilitarismo, Ética de la Virtud) en las evaluaciones de expertos, y su alta puntuación de preferencia se correlacionó con los juicios de los expertos sobre la defendibilidad normativa.

Significado y Reivindicaciones

El artículo sostiene que los LLM actuales poseen una capacidad significativa pero desigual para participar en la imaginación moral.

• Más allá de lo Binario: El estudio demuestra que el razonamiento moral no es estático; la disponibilidad de alternativas altera causalmente las elecciones morales tanto para humanos como para máquinas, emergiendo el compromiso como una estrategia robusta de resolución de conflictos.
• Capacidad de Generación: Los LLM no son meramente selectores de un conjunto fijo, sino que pueden generar alternativas que a menudo superan a las de autoría humana en calidad estructural y alineación ética, aunque luchan por optimizar simultáneamente la elegancia estructural y la factibilidad práctica.
• Implicaciones para la Agencia de la IA: Estos hallazgos sugieren que, para que los LLM actúen como asesores morales sofisticados, deben ser evaluados no solo por su capacidad de elegir entre opciones dadas, sino por su capacidad de imaginar y proponer "terceras vías" que reconcilien valores contrapuestos.

Limitaciones

Los autores señalan que el conjunto de datos, aunque abarca escenarios narrativos y de agentes, no agota la diversidad de las restricciones culturales, lingüísticas o institucionales del mundo real. El uso de prompts de cero disparos (zero-shot) estandarizados y conjuntos de opciones fijas asegura la reproducibilidad, pero no captura la deliberación interactiva o la negociación entre partes interesadas. Además, la evaluación ética depende de aproximaciones basadas en listas de verificación de marcos normativos, que son herramientas prácticas pero no mediciones filosóficas definitivas. Los autores enfatizan que el conjunto de datos es una herramienta de diagnóstico para estudiar las capacidades de los LLM, no una herramienta prescriptiva para la toma de decisiones de alto riesgo sin supervisión humana.