A Step Towards Inherently Interpretable Causal Machine Learning Models For Decision Support

Resumen Técnico: Un paso hacia modelos de aprendizaje automático causal inherentemente interpretables para el soporte de decisiones

Planteamiento del problema
La creciente dependencia del aprendizaje automático (ML) para la toma de decisiones organizacionales ha puesto de relieve una brecha crítica: si bien los modelos son eficaces para la predicción, a menudo carecen de transparencia y comprensión causal. Los enfoques actuales se dividen en dos categorías: métodos de explicabilidad post-hoc aplicados a complejos modelos de "caja negra", y modelos de aprendizaje automático inherentemente interpretables (IIML). Sin embargo, ambos paradigmas revelan principalmente cómo los modelos explotan correlaciones para maximizar el rendimiento predictivo, lo que no equivale a un conocimiento causal. En consecuencia, los modelos de ML estándar tienen dificultades con las evaluaciones de escenarios "qué pasaría si" (intervenciones) porque no pueden distinguir entre correlaciones espurias y relaciones causales genuinas. Esta limitación dificulta su utilidad para tareas de soporte de decisiones que requieren comprender los efectos de cambios deliberados en un sistema.

Metodología
Para abordar estas limitaciones, los autores proponen un marco que integra Modelos Causales Estructurales (SCM) con modelos de Aprendizaje Automático Inherentemente Interpretable (IIML) para datos transversales. El marco se organiza en cuatro componentes:

1. Datos de entrada y grafo causal: El proceso comienza con un conjunto de datos y un grafo causal que representa las relaciones causales entre las variables. Este grafo puede derivarse de la experiencia del dominio, algoritmos de descubrimiento causal o una combinación de ambos. El grafo sirve como la columna vertebral para el razonamiento causal, codificando explícitamente los supuestos sobre el proceso generador de datos.
2. Enfoque de modelado: A diferencia del ML estándar, que típicamente utiliza todas las características disponibles para predecir un objetivo, el enfoque propuesto modela cada variable en el grafo causal como una función de sus padres directos (y un término de ruido exógeno). Esto se implementa mediante técnicas de IIML, específicamente Modelos Aditivos Generalizados (GAM) y Regresión Simbólica (SR), junto con modelos tradicionales de caja negra (XGBoost, Random Forest, MLP) para su comparación.
3. Ejecución de tareas:
   • Predicción: Para tareas de predicción pura, el modelo realiza una selección de características causal, prediciendo el objetivo basándose únicamente en los valores observados de sus padres causales para evitar la acumulación de errores.
   • Análisis de "qué pasaría si": Para escenarios de intervención (por ejemplo, $do(A=x)$), el marco propaga la intervención a través del grafo causal. El efecto de cambiar una variable se calcula bloqueando las rutas de entrada a esa variable y actualizando las predicciones de sus hijos, respetando así la estructura causal del sistema.
4. Interpretación: El marco distingue entre cuatro niveles de interpretabilidad: (1) asociación post-hoc (por ejemplo, SHAP en modelos de caja negra), (2) asociación inherente (análisis directo de IIML sin estructura causal), (3) causalidad post-hoc, y (4) interpretación causal inherente. El nivel más alto proporciona transparencia respecto a la estructura del sistema, las relaciones causales y las formas funcionales que conectan las variables.

Contribuciones clave

• Marco de integración: El artículo propone un nuevo marco que combina SCM con IIML (GAM y SR) para apoyar la toma de decisiones que requiere tanto predicción como análisis causal.
• Preguntas de investigación: Aborda cómo se puede combinar la inferencia causal con el IIML (RQ1) y cómo estos modelos se desempeñan en la predicción frente al análisis de "qué pasaría si" (RQ2).
• Evaluación empírica: El estudio evalúa el enfoque propuesto contra modelos de caja negra no causales utilizando dos experimentos:
  1. Un conjunto de datos de producción sintético con un proceso generador de datos conocido para demostrar los niveles de interpretabilidad y el impacto de las correlaciones espurias.
  2. Una evaluación de referencia utilizando cuatro conjuntos de datos de Geffner et al. (2022) para evaluar el desempeño a través de diferentes estructuras causales.

Resultos

• Desempeño de predicción: En ambos experimentos, los modelos causales IIML lograron un rendimiento predictivo competitivo en los conjuntos de prueba estándar, a menudo igualando o superando ligeramente a sus contrapartes de caja negra. Los resultados sugieren que, para datos tabulares, la alta precisión no requiere sacrificar la interpretablidad.
• Análisis de "qué pasaría si": Los modelos causales superaron significativamente a los modelos de ML no causales en escenarios de intervención. En el experimento sintético, los modelos no causales fallaron al manejar la intervención correctamente porque dependían de correlaciones espurias (por ejemplo, atribuyendo importancia al "personal" que estaba correlacionado con el objetivo pero no vinculado causalmente). En contraste, los modelos causales propagaron correctamente la intervención a través del grafo, obteniendo resultados robustos.
• Interpretabilidad: El enfoque causal IIML proporcionó una transparencia superior.
  • Regresión Simbólica: Recuperó con éxito expresiones matemáticas que coinciden estrechamente con el proceso generador de datos real cuando se restringió a los padres causales.
  • GAMs: Produjeron gráficos de dependencia parcial más simples y precisos que reflejaban las verdaderas relaciones funcionales, evitando las formas complejas y engañosas encontradas en los modelos no causales que intentaban ajustar correlaciones espurias.

Significancia y afirmaciones
El artículo afirma que integrar la estructura causal con modelos inherentemente interpretables ofrece una vía para la "toma de decisiones informada, transparente y causalmente fundamentada". Los autores argumentan que este enfoque:

• Permite el análisis de "qué pasaría si": Permite que los modelos vayan más allá del primer peldaño de la "Escalera de la Causalidad" (asociación) hacia el segundo peldaño (intervención), lo cual es esencial para la toma de decisiones empresariales.
• Mejora la transparencia: Al modelar explícitamente las relaciones causales y las formas funcionales, el enfoque evita la naturaleza de "caja negra" de los modelos complejos y la naturaleza potencialmente engañosa de las explicaciones post-hoc basadas en datos correlacionales.
• Une campos: Contribuye al Aprendizaje Automático Causal (CML) al incorporar IIML para clarificar las formas funcionales, y a la investigación de la interpretabilidad al integrar el conocimiento causal en la selección de variables y la estructura del modelo.

Limitaciones y direcciones futuras
Los autores señalan modestamente varias limitaciones:

• El estudio depende de grafos causales de verdad fundamental (ground-truth); no prueba empíricamente la robustez del marco cuando los grafos están mal especificados o se infieren incorrectamente.
• La evaluación se centra en los dos primeros peldaños de la Escalera de la Causalidad (ver y hacer), no en el razonamiento contrafáctico (el tercer peldaño).
• La interpretabilidad se demostró conceptualmente; no se realizó ningún estudio cualitativo con usuarios para evaluar cómo los interesados (stakeholders) perciben o confían realmente en estos modelos.
• El marco está actualmente limitado a datos transversales; las aplicaciones de series temporales quedan para investigaciones futuras.
• Entrenar múltiples modelos (uno por nodo) puede ser computacionalmente costoso, particularmente para la Regresión Simbólica (SR).