Beyond Binary Moral Judgment: Modeling Ethical Pluralism in AI

Resumen Técnico: Más allá del Juicio Moral Binario: Modelado del Pluralismo Ético en IA

Enunciado del Problema
Los enfoques actuales para la toma de decisiones morales autónomas en la IA dependen predominantemente de juicios escalares o binarios (por ejemplo, moralmente aceptable vs. inaceptable). Los autores argumentan que estos métodos son insuficientes para dominios con consecuencias sociales, como la medicina, el derecho y la política pública, debido a que carecen de poder explicativo e ignoran los matices contextuales y teóricos necesarios para la rendición de cuentas. La moralidad humana se describe como contextual, basada en el deber y pluralista, mientras que la IA estándar opera mediante optimización numérica. La ética computacional existente a menudo asume un único marco moral universal o se basa en clasificaciones binarias, fallando en capturar el "pluralismo ético"—el fenómeno donde una sola acción puede justificarse mediante múltiples teorías éticas normativas, a veces en competencia (por ejemplo, consecuencialismo, deontología y ética de la virtud). El artículo postula que un modelo que es preciso pero opaco, o explicable pero débilmente predictivo, es inadecuado para la ética computacional práctica.

Metodología
El artículo propone un marco jerárquico que modela el razonamiento moral no como un veredicto único, sino como una distribución de probabilidad sobre teorías éticas normativas. La metodología se estructura en torno a una arquitectura normativo-semántica de dos flujos combinada con un enfoque de aprendizaje en conjunto apilado.

1. Taxonomía de Ética Normativa y Simplex:

   • Los autores definen un "simplex de ética normativa" donde las decisiones éticas se mapean a un espacio tridimensional definido por Consecuencialismo ($\alpha$), Ética de la Virtud ($\beta$) y Deontología ($\gamma$).
   • Estas teorías amplias se subdividen en 15 subteorías de granularidad fina (por ejemplo, Utilitarismo de Acto, Deontología Kantiana, Ética de la Virtud Aristotélica, Ética del Cuidado).
   • El marco trata las decisiones éticas como una "partición difusa de la unidad", donde la suma de los puntajes de pertenencia a través de los tres ejes es igual a 1, permitiendo justificaciones éticas superpuestas.

2. Conjunto de Datos de Referencia:

   • Se curó un conjunto de referencia estructurado de 450 casos del mundo real, con 30 casos por subteoría.
   • Los casos se obtuvieron de conjuntos de datos existentes a gran escala de narrativas en lenguaje natural éticamente ambiguas.
   • Ingeniería de Características: El conjunto de datos incluye:
     • Características Semánticas: Texto crudo y resúmenes.
     • Características Contextuales: Variables codificadas one-hot que incluyen agentes activos/pasivos, relaciones, intenciones morales, severidad de las consecuencias, duración y utilidad.
     • Priors Normativos: Puntajes para las tres teorías amplias y subteorías, derivados utilizando DeepSeek V3 (validados contra el acuerdo de expertos humanos) para servir como "priors éticos".

3. Arquitectura:

   • Flujo 1: Flujo de Prior Normativo: Procesa los puntajes de alineación probabilística ($\alpha, \beta, \gamma$) y las métricas derivadas (entropía, márgenes de puntaje, ratios por pares) para capturar la orientación teórica de un caso.
   • Flujo 2: Flujo Semántico-Contextual:
     • Incrustaciones Semánticas: Utiliza un enfoque Triple-BERT, concatenando incrustaciones de tres transformadores distintos (all-MiniLM-L6-v2, all-distilRoBERTa-v1, multi-qa-mpnet-base-dot-v1) para crear un supervector de 1920 dimensiones. Esto captura el contenido general, resúmenes detallados y patrones de razonamiento de preguntas y respuestas.
     • Características Contextuales: Integra las variables contextuales ingenierizadas.
   • Clasificador en Conjunto Apilado: Las salidas de ambos flujos se alimentan a un meta-aprendiz.
     • Aprendices Base: Random Forest (Bagging), XGBoost (Boosting) y un SVM lineal (Stacking).
     • Meta-Aprendiz: Un segundo modelo XGBoost combina las predicciones base para emitir la clasificación final entre las 15 subteorías.

Contribuciones Clave

• Modelado del Pluralismo Ético: El artículo cambia el paradigma de la clasificación moral binaria a una distribución probabilística sobre teorías normativas, modelando explícitamente la superposición y la ambigüedad inherentes al razonamiento ético.
• Arquitectura Normativo-Semántica: Introduce una arquitectura híbrida que fusiona la taxonomía filosófica (priors normativos) con representaciones semánticas profundas (incrustaciones de transformadores) y características contextuales estructuradas.
• Conjunto de Referencia Estructurado: La creación de un conjunto de referencia de 450 casos etiquetados con 15 subteorías éticas de granularidad fina, diseñado para probar la granularidad en el razonamiento moral.
• Cuantificación de la Ambigüedad: El marco proporciona métricas (entropía, márgenes de confianza, puntajes de superposición) para cuantificar el grado de ambigüedad ética y la "difusidad" de las decisiones morales.

Resultados

• Rendimiento de Clasificación: La arquitectura propuesta logró una precisión de coincidencia exacta del 88.89% y una puntuación F1 macro del 88.78% al clasificar casos en las 15 subteorías.
• Estudios de Ablación:
  • Eliminar los priors normativos redujo la precisión al 85.56%.
  • Eliminar las características contextuales redujo aún más la precisión al 81.11%.
  • Usar solo incrustaciones semánticas (sin priors ni contexto) bajó la precisión al 77.78%.
  • Esto demuestra que las representaciones éticas estructuradas y la fundamentación contextual contribuyen significativamente más allá del razonamiento analógico por sí solo.
• Análisis del Pluralismo:
  • Entropía: La normalización redujo la entropía de clasificación de 1.66 a 0.61, indicando que el modelo puede distinguir entre casos claros y ambiguos.
  • Confianza: El modelo exhibió alta confianza (>70%) solo para ~15% de los casos, con una baja confianza correlacionada con alta ambigüedad ética o teorías superpuestas.
  • Visualización: Las proyecciones UMAP de los supervectores de 1920D mostraron que los casos con teorías normativas similares se agrupan juntos, validando la capacidad de la arquitectura para aprender la estructura ética subyacente.

Significado y Afirmaciones
El artículo afirma que modelar el pluralismo ético como una distribución normativa probabilística apoya el razonamiento moral similar al humano y facilita el análisis de desacuerdos éticos. Al ir más allá de los juicios escalares, el marco permite que los sistemas de IA expliquen por qué una decisión se alinea con escuelas de pensamiento ético específicas, en lugar de simplemente proporcionar un veredicto. Los autores enfatizan que este enfoque cierra la brecha entre modelos opacos de alta precisión y modelos explicables pero débilmente predictivos.

Los autores permanecen modestos respecto a sus afirmaciones, reconociendo que:

• El conjunto de referencia es pequeño y equilibrado, no totalmente representativo de la complejidad ambiental del mundo real.
• Los priors normativos dependen de puntajes generados por LLM, los cuales, aunque verificados contra anotadores humanos, conllevan un riesgo de sesgo.
• Las 15 subteorías seleccionadas no son exhaustivas de todas las éticas normativas.
• El marco actualmente colapsa a una probabilidad de "mejor ajuste" para la clasificación y no realiza una resolución adaptativa de conflictos.

En última instancia, el trabajo sugiere que la futura alineación de la IA en entornos socio-técnicos complejos requiere pasar de un razonamiento basado en veredictos a representaciones estructuradas de la pluralidad ética para manejar mejor las interpretaciones morales en competencia.