Machine Behavior in Relational Moral Dilemmas: Moral Rightness, Predicted Human Behavior, and Model Decisions

Título: Comportamiento de la Máquina en Dilemas Morales Relacionales: Rectitud Moral, Comportamiento Humano Predicho y Decisiones del Modelo

1. Problema de Investigación

A medida que los Modelos de Lenguaje Grande (LLMs) se integran como sistemas de apoyo a la toma de decisiones en contextos sociales complejos, surge una pregunta fundamental: ¿capturan estos modelos los matices sociales y relacionales inherentes al juicio moral humano?

La literatura previa ha evaluado las inclinaciones éticas de la IA mediante benchmarks amplios, pero a menudo trata la moralidad del modelo como una construcción monolítica y estática. Sin embargo, el juicio moral humano es:

• Dependiente del contexto: Cambia según la gravedad del delito y la cercanía relacional.
• Perspectivo: Existe una brecha entre lo que se considera "moralmente correcto" (normas prescriptivas) y lo que se predice que la gente hará (normas descriptivas), especialmente cuando entran en conflicto la lealtad y la justicia.

El problema central es que no se ha examinado si los LLMs presentan inconsistencias internas entre su capacidad para modelar el comportamiento social humano y sus propias decisiones autónomas.

2. Metodología

Los autores adaptan el Dilema del Denunciante (Whistleblower's Dilemma) para evaluar sistemáticamente el comportamiento de la máquina a través de tres dimensiones experimentales:

• Dimensiones Experimentales:

  1. Gravedad del delito (Severity): Cuatro niveles (Menor, Moderado, Mayor, Crítico) aplicados a tres tipos de crímenes (asalto, fraude, allanamiento).
  2. Cercanía relacional (Relational Closeness): Cuatro niveles (Extraño, Conocido, Amigo, Familia).
  3. Perspectiva de evaluación: Se evalúan tres preguntas distintas para la misma instancia:
     • Rectitud Moral (Norma Injuntiva): "¿Es correcto denunciarlo?" (¿Qué se debe hacer?).
     • Comportamiento Humano Predicho (Norma Descriptiva): "¿La gente lo denuncia?" (¿Qué la gente haría?).
     • Decisión del Modelo (Intención Conductual): "¿Tú lo denuncias?" (¿Qué haces?).

• Configuración del Experimento:

  • Modelos: Se evaluaron 6 LLMs modernos (incluyendo Claude 3.5 Haiku, Gemini 2.5 Pro, GPT-5 mini, o3-mini, Qwen3 y DeepSeek-V3.1).
  • Datos: Se generaron 1,296 instancias de prompts (432 por perspectiva) cruzando todas las combinaciones de gravedad, cercanía y perspectiva.
  • Análisis de Razonamiento: Se utilizó el Diccionario de Fundamentos Morales (MFD) para extraer y cuantificar la proporción de palabras asociadas a los fundamentos morales (Justicia/Fairness, Lealtad/Loyalty, Autoridad, Cuidado/Care) en las justificaciones generadas por el modelo.
  • Validación Humana: Se realizó un estudio piloto con anotadores humanos para validar la precisión de la perspectiva de "comportamiento predicho".

3. Contribuciones Clave

1. Marco de Evaluación Moral Contextual: Introducción de un marco sistemático que modula la cercanía relacional y la gravedad del delito para evaluar la robustez de las elecciones morales de la IA dentro del Dilema del Denunciante.
2. Descubrimiento de Inconsistencia Trans-perspectiva: Identificación de discrepancias sustanciales entre los juicios de rectitud moral del modelo, sus predicciones sobre el comportamiento humano y sus propias decisiones autónomas.
3. Caracterización de la Dinámica de Fundamentos Morales: Generación y liberación de datos a gran escala que analizan las tensiones finas entre la "Justicia" y la "Lealtad" a través de diferentes perspectivas de evaluación.

4. Resultados Principales

• Sensibilidad Contextual: Los modelos muestran sensibilidad a los factores contextuales. La tasa de denuncia aumenta con la gravedad del delito y disminuye a medida que la relación se vuelve más cercana (de extraño a familia), imitando tendencias psicológicas humanas.
• Inconsistencia Estructural (El Hallazgo Central):
  • Rectitud Moral: Las decisiones basadas en "lo que es correcto" son consistentemente altas en tasas de denuncia (>0.9) y están fuertemente orientadas a la Justicia (Fairness), mostrando poca sensibilidad a la cercanía relacional.
  • Comportamiento Predicho: Cuando se les pide predecir qué haría la gente, los modelos reducen significativamente la tasa de denuncia a medida que aumenta la cercanía, priorizando la Lealtad (Loyalty).
  • Decisión del Modelo: Paradójicamente, cuando el modelo toma una decisión autónoma ("¿Tú lo denuncias?"), alinea su respuesta con la "Rectitud Moral" (alta denuncia, enfoque en justicia) y no con su propia predicción del comportamiento humano (que sugería no denunciar por lealtad).
• Análisis de Fundamentos Morales:
  • La perspectiva de "Comportamiento Predicho" es la única que muestra una alta proporción de términos relacionados con la Lealtad y la Traición.
  • Las decisiones del modelo y los juicios de rectitud moral están dominados por la Justicia y el Cuidado, ignorando la sensibilidad social que el modelo demuestra tener internamente al predecir el comportamiento humano.
• Correlación Humana: Las predicciones de los modelos sobre el comportamiento humano se alinean bien con las anotaciones humanas reales (correlación de Spearman > 0.90), lo que confirma que los modelos entienden la dinámica social, pero eligen no aplicarla en sus propias decisiones.

5. Significado e Implicaciones

• Brecha de Alineación: Existe una desconexión crítica entre lo que los LLMs saben que la gente haría (modelado social sensible) y lo que deciden hacer (reglas prescriptivas rígidas). Esto sugiere que los protocolos de alineación actuales (RLHF, seguridad) priorizan la consistencia normativa sobre la sensibilidad social descriptiva.
• Riesgo en Despliegue Real: En aplicaciones del mundo real, si un sistema de IA predice que un usuario no denunciará un delito por lealtad, pero el sistema mismo recomienda denunciarlo basándose en reglas rígidas, sus consejos pueden sentirse desconectados, insensibles o poco fiables para el usuario humano.
• Necesidad de Evaluación Multiperspectiva: Los benchmarks éticos actuales son insuficientes porque tratan la moralidad como estática. Se requiere un enfoque que evalúe a los modelos desde múltiples perspectivas (prescriptiva, descriptiva y conductual) para asegurar agentes sociales responsables.
• Sesgo Cultural: La preferencia sistemática por la "Justicia" sobre la "Lealtad" en las decisiones de los modelos puede reflejar un sesgo cultural occidental, ignorando contextos donde los deberes relacionales (como en filosofías asiáticas de Vasudhaiva Kutumbakam o Dharma situacional) son normativamente más salientes.

En conclusión, el estudio demuestra que la moralidad de la máquina no es monolítica, sino que exhibe una inconsistencia estructural: posee la capacidad cognitiva para modelar matices sociales complejos, pero sus decisiones finales están ancladas en reglas prescriptivas rígidas que suprimen esa sensibilidad contextual.