Resumen Técnico: P2CE – Explicaciones Contrafácticas de Pareto Óptimas y Plausibles e Independientes del Modelo

Planteamiento del Problema

El despliegue creciente de la inteligencia artificial en dominios de alto riesgo (por ejemplo, calificación crediticia, contratación, diagnóstico de salud) requiere transparencia y equidad. Las explicaciones contrafácticas (CE, por sus siglas en inglés) abordan esto sugiriendo cambios mínimos en las características de entrada ($x \to x'$) que alterarían la predicción de un modelo de un resultado no deseado a uno deseado. Sin embargo, los métodos existentes enfrentan tres desafíos críticos:

1. Plausibilidad: Muchos algoritmos generan soluciones que son matemáticamente cercanas a la entrada pero que se encuentran fuera de la distribución natural de los datos (valores atípicos o outliers), lo que las hace poco realistas para que un individuo las alcance.
2. Compromisos de Factibilidad: No existe una métrica única para la "factibilidad". Los usuarios pueden preferir cambios pequeños en muchas características o cambios moderados en pocas características. La optimización de un solo objetivo no logra capturar estas diversas preferencias.
3. Independencia del Modelo y Eficiencia: Aunque algunos métodos son independientes del modelo (model-agnostic), a menudo luchan con la eficiencia computacional o dependen de supuestos (como la monotonicidad del modelo) que no se cumplen para modelos no lineales complejos (por ejemplo, Redes Neuronales, SVM).

Metodología

Los autores proponen P2CE, un algoritmo diseñado para generar Explicaciones Contrafácticas de Pareto Óptimas y Plausibles. El enfoque combina una estrategia de búsqueda de rama y cota (branch-and-bound) con dos innovaciones clave para garantizar la plausibilidad y la eficiencia en cualquier modelo de caja negra.

1. Estrategia de Búsqueda y Optimización Multiobjetivo

P2CE busca en una cuadrícula discretizada de posibles cambios en las características ($A = A^{(1)} \times \dots \times A^{(d)}$) para encontrar un conjunto de acciones $a$ tales que $f(x+a) \geq \tau$. Optimiza múltiples objetivos simultáneamente:

• Distancia Continua Promedio ($c_1$): La magnitud promedio normalizada de los cambios en las características numéricas.
• Distancia Continua Máxima ($c_2$): La magnitud máxima de cambio en cualquier característica numérica individual.
• Número de Cambios ($c_3$): El recuento de características alteradas (dispersión o sparsity).

El algoritmo devuelve un conjunto de Pareto-óptimo, asegurando que no exista otra solución que sea mejor o igual en todos los objetivos.

2. Garantizar la Plausibilidad mediante la Detección de Valores Atípicos

Para evitar la generación de valores atípicos (soluciones fuera de la distribución de los datos), P2CE integra un detector de valores atípicos de Bosque de Aislamiento (Isolation Forest) ($u$).

• Durante la búsqueda, cada vez que se encuentra una solución candidata $x+a$, se evalúa $u(x+a)$.
• Si $u(x+a)$ indica que es un valor atípico, la solución se descarta.
• Ganancia de Eficiencia: P2CE aprovecha la capacidad del Bosque de Aislamiento para manejar valores faltantes. Si una solución parcial (con algunas características no definidas) ya es clasificada como un valor atípico, el algoritmo poda toda la rama del árbol de búsqueda, evitando computaciones innecesarias.

3. Poda de Rama y Cota Independiente del Modelo

Para mantener la eficiencia computacional sin asumir la monotonicidad del modelo (lo que limita a métodos anteriores como MAPOCAM), P2CE estima la predicción máxima posible ($f_a$) alcanzable desde una acción parcial $a$.

• Estimación Basada en SHAP: El algoritmo utiliza la propiedad aditiva de los valores SHAP: $f(x) = E[f(x)] + \sum \phi_i$.
• Calcula un límite superior para la predicción asumiendo el "peor escenario favorable" para las características restantes (aquellas que aún no se han fijado en la búsqueda).
• El límite se formula como:
  $$\max f(x+\tilde{a}) \leq f(x) - \sum_{i \in O_k} \phi_i(x) + \sum_{i \in O_k} \bar{\phi}_i + R(x, O_k)$$
  Donde $O_k$ representa las $k$ características con la mayor atribución potencial, $\bar{\phi}_i$ es la atribución máxima posible para la característica $i$, y $R$ es un término residual.
• Si este límite superior está por debajo del umbral de decisión $\tau$, la rama se poda. Esto permite que P2CE funcione eficientemente con modelos no monotónicos como las Redes Neuronales.

Principales Contribuciones

1. Algoritmo P2CE: Un nuevo algoritmo independiente del modelo que genera explicaciones contrafácticas de Pareto óptimas mientras garantiza estrictamente la plausibilidad de la distribución de datos mediante la detección de valores atípicos.
2. Exploración de la Propiedad SHAP: La introducción de un método para utilizar los valores SHAP para estimar las predicciones máximas en un contexto de rama y cota, eliminando la restricción de monotonicidad requerida por los métodos de vanguardia anteriores.
3. Evaluación Exhaustiva: Un estudio empírico extenso a través de tres conjuntos de datos (German Credit, Taiwan Credit, Adult) y tres clasificadores (Regresión Logística, LightGBM, MLP), comparando P2CE contra MAPOCAM, DiCE y NICE.
4. Código Abierto: La publicación de la implementación para facilitar la reproducibilidad.

Resultados Experimentales

La evaluación se centró en la calidad de la solución (hipervolumen de la frontera de Pareto), la plausibilidad (porcentaje de valores atípicos) y la eficiencia computacional.

• Plausibilidad: P2CE generó consistentemente significativamente menos soluciones atípicas en comparación con sus competidores. Por ejemplo, en el conjunto de datos Adult con un MLP, P2CE produjo solo un 11% de valores atípicos, mientras que DiCE produjo un 87% y MAPOCAM un 58%. En algunos casos, DiCE sugirió escenarios imposibles (por ejemplo, 97 horas de trabajo por semana).
• Calidad de la Solución: P2CE logró puntuaciones de hipervolumen comparables a MAPOCAM (el estándar de oro teórico para la optimalidad de Pareto) y superó significativamente a DiCE y NICE. Aunque MAPOCAM ocasionalmente logró hipervolúmenes ligeramente superiores, esto tuvo un costo computacional muy alto.
• Eficiencia: P2CE demostró una eficiencia computacional superior, particularmente con modelos no lineales complejos.
  • En el conjunto de datos de Taiwán con un MLP, MAPOCAM tomó un promedio de 118.5 segundos, mientras que P2CE tomó 0.81 segundos.
  • En el conjunto de datos Adult con un MLP, MAPOCAM tomó 6.24 segundos, mientras que P2CE tomó 2.34 segundos.
  • P2CE fue más lento que DiCE y NICE en tiempo bruto, pero proporcionó la garantía crucial de la optimalidad de Pareto y la plausibilidad que los métodos más rápidos carecían.

Significado y Reivindicaciones

El artículo posiciona a P2CE como una solución práctica para aplicaciones del mundo real donde las explicaciones contrafácticas deben ser tanto accionables (factibles para el usuario) como plausibles (consistentes con los datos del mundo real).

Los autores afirman que P2CE logra cerrar la brecha entre la optimalidad teórica y la utilidad práctica. Al asegurar que las soluciones sean "inliers" (dentú de la distribución), el algoritmo evita la generación de consejos engañosos (por ejemplo, sugerir que un usuario aumente sus ingresos en un 1000% o trabaje horas imposibles). Además, al aprovechar los valores SHAP para la poda, P2CE extiende la capacidad de generar contrafácticos óptimos a cualquier modelo de caja negra, superando las limitaciones de los métodos previos que estaban restringidos a modelos monotónicos o tipos específicos.

El trabajo concluye que P2CE permite una toma de decisiones más rápida e informada en aplicaciones del mundo real al proporcionar un conjunto diverso de compromisos de alta calidad y plausibles sin requerir adaptaciones específicas del modelo.

Limitaciones y Trabajo Futuro

Los autores reconocen dos limitaciones principales:

1. Dependencia de SHAP: La eficiencia de la estrategia de poda depende de las aproximaciones de SHAP. Calcular los valores de Shapley exactos es computacionalmente costoso (exponencial en el número de características), aunque se utilizan aproximaciones. Los errores en estas aproximaciones podrían teóricamente afectar la poda, aunque los resultados empíricos sugieren que el impacto es mínimo en comparación con las ganancias en velocidad.
2. Cuadrícula Discretizada: La búsqueda está limitada a una cuadrícula discreta. Si bien esto es práctico para la mayoría de las aplicaciones (por ejemplo, sugerir un aumento de ingresos de 1,000 dólares frente a 998 dólares es funcionalmente similar), una granularidad extremadamente fina aumenta el tiempo de búsqueda. Los autores sugieren trabajos futuros sobre cuadrículas adaptativas que ajusten la granularidad basándose en el impacto de las características, potencialmente guiadas por los valores SHAP.