PACE: A Neuro-Symbolic Framework for Plausible and Actionable Counterfactual Explanations

Resumen Técnico: PACE – Un Marco Neuro-Simbólico para Explicaciones Contrafácticas Plausibles y Accionables

Planteamiento del Problema
Las explicaciones contrafácticas (CE, por sus siglas en inglés) son un enfoque prominente en la IA Explicable (XAI) diseñado para proporcionar recomendaciones accionables mediante la identificación de cambios mínimos en una instancia de entrada que alterarían la predicción de un modelo de aprendizaje automático. Aunque los métodos existentes generan eficazmente alternativas que cambian la predicción, frecuentemente producen recomendaciones irreales o inviables. Esto ocurre porque muchos enfoques optimizan primordialmente el cambio de predicción y la proximidad a la instancia original, careciendo a menudo de mecanismos explícitos para incorporar el conocimiento del dominio o las restricciones de intervención. En consecuencia, las explicaciones generadas pueden violar reglas específicas del dominio (por ejemplo, sugerir un cambio imposible en atributos inmutables como la edad o el sexo) o no representar acciones humanas realistas. Existe una necesidad crítica de métodos que aseguren que las explicaciones sean no solo válidas (que cambien la predicción), sino también plausibles y factibles dentro de las restricciones del dominio de aplicación.

Metodología
El artículo propone PACE (Explicaciones Contrafácticas Plausibles y Accionables), un marco neuro-simbólico modular que integra modelos predictivos basados en datos con razonamiento simbólico para imponer la factibilidad. La metodología se estructura en torno a tres componentes principales:

1. Formulación del Problema:
   La generación de un contrafáctico se formaliza como un problema de búsqueda con restricciones. Dado un modelo de caja negra $f$ y una entrada $x$ con una predicción $y$, el objetivo es encontrar un contrafáctico $x_{cf}$ tal que $f(x_{cf}) \neq f(x)$. La búsqueda minimiza una métrica de distancia $d$ (definida como el número de características modificadas) sujeta a la restricción de que $x_{cf}$ debe encontrarse dentro de un espacio de intervención factible $\Omega$. Este espacio está estrictamente definido por reglas específicas del dominio, asegurando que los atributos inmutables permanezcan sin cambios y que los atributos editables sigan dependencias lógicas.

2. Arquitectura Neuro-Simbólica:

   • Componente Neural: Un modelo predictivo (por ejemplo, un Perceptrón Multicapa) actúa como un oráculo para evaluar instancias candidatas y verificar si se cumple la condición de cambio de predicción.
   • Componente Simbólico: Una capa de razonamiento simbólico, implementada mediante Programación de Conjuntos de Respuestas (ASP), codifica el conocimiento del dominio. Esta capa define el espacio factible $\Omega$ mediante la partición de las características en conjuntos de atributos inmutables ($X_I$) y editables ($X_E$). Impone reglas lógicas, tales como invariantes direccionales (por ejemplo, los niveles de educación solo pueden cambiar a niveles adyacentes) e invariantes relacionales (por ejemplo, transiciones de ocupación específicas).
   • Procedimiento de Búsqueda: El marco emplea un bucle iterativo de "generar y verificar". El motor simbólico genera intervenciones candidatas dentro de un presupuesto $K$ específico (limitando el número de cambios simultáneos de características). Los candidatos son filtrados contra las restricciones simbólicas antes de ser evaluados por el modelo neural. La búsqueda comienza con un presupuesto mínimo y se expande incrementalmente hasta que se encuentra un contrafáctico válido o se alcanza el límite máximo.

Estudio de Caso y Configuración Experimental
El marco fue evaluado en el conjunto de datos Adult Income, un referente para la clasificación de datos tabulares. La tarea consistió en predecir si el ingreso de un individuo supera los $50,000.

• Modelo: Un Perceptrón Multicapa (MLP) con un 82% de precisión sirvió como el modelo predictivo.
• Características: Se utilizaron cinco características: Edad y Sexo (inmutables), y Educación, Ocupación y Horas por Semana (editables).
• Restricciones: La base de conocimiento simbólico impuso reglas tales como:
  • La edad y el sexo no pueden ser modificados.
  • Los cambios de educación están restringidos a niveles adyacentes.
  • Los cambios de ocupación deben seguir un grafo de transición predefinido.
  • Las horas de trabajo deben cambiar dentro de pasos delimitados.
• Líneas Base (Baselines): PACE fue comparado contra Random Search, DiCE, enfoques de optimización tipo Wachter, enfoques tipo VCNet y enfoques tipo C-CHVAE.

Resultados Clave
Los experimentos, realizados en 1,000 instancias de prueba, destacaron un compromiso (trade-off) distintivo entre validez (cambiar con éxito la predicción) y plausibilidad (satisfacer las restricciones del dominio):

• Plausibilidad: PACE logró un 100% de plausibilidad, ya que todas las explicaciones generadas cumplieron estrictamente con las restricciones simbólicas. En contraste, los métodos sin restricciones como Random Search (2.7% de plausibilidad) y DiCE (4.2% de plausibilidad) produjeron frecuentemente recomendaciones inviables.
• Validez: Los métodos sin restricciones generalmente alcanzaron puntuaciones de validez más altas (por ejemplo, Random Search con 0.778 y DiCE con 0.742) en comparación con PACE (0.240). Esto indica que restringir el espacio de búsqueda a intervenciones factibles reduce el número de instancias para las cuales se puede encontrar un contrafáctico.
• Minimicidad: PACE generó explicaciones relativamente compactas, requiriendo un promedio de 1.242 modificaciones de características, lo cual fue menor que la mayoría de las líneas base (por ejemplo, DiCE con 1.953).
• Eficiencia de Búsqueda: PACE demostró una alta eficiencia, requiriendo un promedio de 5.271 iteraciones para invertir una predicción y un tiempo de ejecución de 0.076 segundos por instancia, superando significativamente a la línea base de tipo Wachter.
• Análisis Adicional: Cuando todos los métodos fueron restringidos al mismo espacio factible $\Omega$, sus puntuaciones de plausibilidad convergieron a 1.0, confirmando que las ganancias de plausibilidad en PACE derivan de la especificación explícita de restricciones. Además, se encontró que los contrafácticos de PACE estaban más cerca de la variedad (manifold) de los datos empíricos (distancia media a los vecinos más cercanos: 0.354) en comparación con la búsqueda sin restricciones (0.944).

Significancia y Contribuciones
El artículo afirma que PACE aborda la brecha entre la generación de contrafácticos de alta validez y la imposición explícita de la factibilidad. Sus principales contribuciones son:

1. Un Marco Modular: Integra el aprendizaje automático con el razonamiento simbólico para permitir la generación de contrafácticos con restricciones.
2. Formulación Consciente de la Factibilidad: Define la generación de contrafácticos como una búsqueda donde las restricciones simbólicas delinean explícitamente el espacio de intervención admisible.
3. Implementación: Proporciona una implementación basada en ASP que impone restricciones específicas del dominio durante el proceso de búsqueda.
4. Evidencia Empírica: Demuestra, a través del estudio de caso de Adult Income, que la incorporación de restricciones simbólicas produce explicaciones que satisfacen mejor los requisitos de factibilidad específicos del dominio, aunque con un compromiso en la tasa de hallazgo de contrafácticos válidos para todas las instancias.

Los autores concluyen que, si bien existe un compromiso entre validez y plausibilidad, los métodos neuro-simbólicos como PACE ofrecen una dirección prometedora para generar explicaciones transparentes y conscientes de la factibilidad en sistemas de soporte a la decisión de alto riesgo. El artículo reconoce limitaciones, señalando la dependencia de un único conjunto de datos y de restricciones especificadas manualmente, y sugiere que el trabajo futuro debería explorar la adquisición automatizada de restricciones y formas más ricas de conocimiento del dominio.