Joint Distribution-Informed Shapley Values for Sparse Counterfactual Explanations

Each language version is independently generated for its own context, not a direct translation.

¡Claro que sí! Imagina que este paper es como una receta de cocina para hacer que las "explicaciones" de una Inteligencia Artificial (IA) sean mucho más fáciles de entender y, sobre todo, más fáciles de aplicar en la vida real.

Aquí tienes la explicación de COLA (un nuevo método para explicar decisiones de IA) usando analogías sencillas:

1. El Problema: El "Abogado" que te da demasiadas tareas

Imagina que tienes una IA que te dice: "No te aprobamos el préstamo".

La explicación antigua (Counterfactuals): La IA te dice: "Para que te aprueben, necesitas cambiar 5 cosas: ganar más dinero, tener menos deudas, cambiar tu ciudad, cambiar tu trabajo y cambiar tu edad".
El problema: ¡Eso es imposible! No puedes cambiar tu edad ni tu ciudad fácilmente. La explicación es técnicamente correcta (si hicieras todo eso, te aprobarían), pero es impráctica porque te pide cambiar demasiadas cosas a la vez. Te deja paralizado.

2. La Solución: COLA (El "Entrenador Personal" de la IA)

Los autores crearon un método llamado COLA. Su objetivo es tomar esa lista larga de cambios imposibles y reducirla a solo lo esencial.

La analogía: Imagina que quieres llegar a una meta (conseguir el préstamo).

La IA antigua te dice: "Caminarás 100 km hacia el norte, 50 hacia el este y saltarás 3 metros".

COLA actúa como un GPS inteligente que dice: "Oye, si solo giras 10 grados a la izquierda y aceleras un poco, llegas a la misma meta. No necesitas caminar 100 km".

3. ¿Cómo funciona? (La Magia de los "Transportistas" y los "Jueces")

Para lograr esto, COLA usa dos herramientas mágicas combinadas:

A. El Transportista Óptimo (Optimal Transport)

Imagina que tienes un montón de cajas en un almacén (tus datos actuales) y quieres moverlas a otro lugar (la situación ideal donde te aprueban el préstamo).

Hay muchas formas de mover las cajas. Algunas formas requieren subir y bajar escaleras, otras cruzar ríos.
COLA usa un algoritmo llamado Transporte Óptimo para encontrar la ruta más barata y directa. Le dice a la IA: "No muevas la caja A al lugar B si puedes moverla al lugar C con menos esfuerzo".
Esto asegura que la nueva explicación esté lo más cerca posible de tu realidad actual, sin dar saltos imposibles.

B. El Juez Shapley (Shapley Values)

Una vez que el "Transportista" ha trazado la ruta más eficiente, necesitamos saber qué cajas (qué características) son las que realmente importan mover.

Aquí entra el Juez Shapley. Es como un árbitro que revisa cada cambio posible y dice: "Este cambio de 'ingresos' aporta mucho a la meta, pero este cambio de 'color de ojos' no aporta nada".
COLA usa una versión mejorada de este juez (llamada p-SHAP) que sabe exactamente qué caja emparejar con cuál destino gracias al trabajo del "Transportista".

4. El Resultado: Menos esfuerzo, mismo éxito

En el papel, probaron COLA con muchos datos reales (créditos, hoteles, justicia penal).

Antes: Para lograr el mismo resultado, la IA pedía cambiar entre el 100% de las características.
Con COLA: Lograron el mismo resultado cambiando solo entre el 26% y el 45% de las características.

En resumen:
Si antes la IA te decía: "Cambia todo tu estilo de vida para ser feliz", COLA le dice: "Cambia solo dos hábitos específicos y serás feliz".

¿Por qué es importante?

Acción real: Te da un plan de acción que realmente puedes seguir, no una fantasía.
Claridad: Te dice exactamente qué es lo que importa, sin ruido.
Justicia: Evita que te pidan cambios imposibles (como cambiar tu raza o tu edad) para obtener un resultado.

En una frase: COLA es el traductor que convierte las matemáticas complejas de la IA en un "to-do list" (lista de tareas) corta, realista y que realmente puedes cumplir.

Each language version is independently generated for its own context, not a direct translation.

1. Planteamiento del Problema

Las explicaciones contrafactuales (CE) buscan revelar cómo pequeños cambios en las entradas de un modelo de aprendizaje automático pueden alterar su predicción (por ejemplo, cambiar un resultado de "rechazado" a "aprobado"). Sin embargo, los métodos existentes a menudo modifican más características de las necesarias, lo que reduce la claridad y la accionabilidad de la explicación para el usuario.

El problema central abordado en este trabajo es: Dado un conjunto de instancias factuales, ¿cómo diseñar un plan de acción que requiera la menor cantidad de modificaciones de características posible para lograr un resultado contrafactual deseado?

Los desafíos principales identificados son:

Generalidad: No existe un algoritmo único de CE que sirva para todos los casos de uso (algunos buscan instancias individuales, otros distribuciones globales).
Independencia del Modelo: El método no debe asumir que el modelo es diferenciable o tener una estructura específica.
Desacoplamiento Ineficiente: Utilizar la atribución de características (FA, como los valores de Shapley) de forma independiente de la generación de contrafactuales suele llevar a modificaciones contraproducentes, ya que las características "importantes" no siempre son las que deben cambiarse para lograr el efecto deseado con el menor costo.

2. Metodología: El Marco COLA

Los autores proponen COLA (COunterfactuals with Limited Actions), un marco post-hoc agnóstico al modelo y al generador de contrafactuales. Su objetivo es refinar cualquier explicación contrafactual dada para hacerla más esparsa (menos cambios).

La metodología se basa en cuatro componentes clave:

A. Formulación del Problema

Se busca minimizar la divergencia entre la salida del modelo y el objetivo, sujeto a una restricción estricta en el número de características modificadas ( $C$ ). El problema se formula como una optimización combinatoria NP-dura.

B. Acoplamiento Óptimo (Optimal Transport - OT)

Para resolver el problema de alineación entre las instancias factuales ( $x$ ) y las contrafactuales ( $r$ ), COLA utiliza Transporte Óptimo (OT).

En lugar de asumir una alineación aleatoria o basada en la distribución de entrenamiento, COLA calcula un acoplamiento óptimo ( $p_{OT}$ ) que minimiza el costo de transporte entre la distribución factual y la contrafactual.
Esto se logra resolviendo un problema de OT regularizado entrópicamente (ecuación 8), lo que proporciona un plan de transporte que indica cómo deben ajustarse los valores de las características de $x$ para acercarse a $r$ con el mínimo costo esperado.

C. Valores de Shapley Informados por Distribución Conjunta (p-SHAP)

Se introduce una nueva variante de los valores de Shapley llamada p-SHAP.

A diferencia de los métodos tradicionales (como Baseline Shapley o Counterfactual Shapley estándar) que usan distribuciones de referencia fijas o aleatorias, p-SHAP utiliza la distribución conjunta óptima ( $p_{OT}$ ) obtenida del paso anterior.
Definición: La función de valor $v(S)$ se calcula esperando sobre la distribución condicional $p(r|x)$ definida por el acoplamiento OT.
Ventaja Teórica: Bajo la suposición de continuidad de Lipschitz del modelo, se demuestra que el plan de transporte $p_{OT}$ minimiza un límite superior de la divergencia $W_1$ (distancia de Wasserstein) entre la salida factual y el objetivo. Esto garantiza que las atribuciones de Shapley guíen la selección de características hacia los cambios más eficientes.

D. Algoritmo de Selección de Acciones (Algoritmo 1)

El marco COLA opera en las siguientes etapas:

Generación: Obtener un conjunto contrafactual $r$ usando cualquier algoritmo de CE existente.
Alineación: Calcular la matriz de distribución conjunta $p$ entre $x$ y $r$ usando OT.
Atribución: Calcular los valores de Shapley ( $\phi$ ) para cada característica de $x$ utilizando p-SHAP y la matriz $p$ .
Normalización y Selección: Normalizar los valores absolutos de Shapley para obtener una probabilidad de selección. Se eligen aleatoriamente (o determinísticamente) las $C$ características con mayor probabilidad para modificar.
Refinamiento: Reemplazar los valores de las características seleccionadas en $x$ por los valores correspondientes en $r$ (o una combinación ponderada), generando la explicación refinada $z$ .

3. Contribuciones Clave

Marco General (COLA): Primer método propuesto para refinar sistemáticamente explicaciones contrafactuales sin depender de un algoritmo de CE específico ni de la estructura del modelo subyacente.
p-SHAP: Introducción de un nuevo método de atribución que integra la información de la distribución conjunta óptima (OT) para guiar la selección de características, superando a los métodos de Shapley tradicionales en el contexto de CE.
Garantías Teóricas:
- Demostración de que el uso de OT minimiza un límite superior de la divergencia entre la salida del modelo y el objetivo.
- Prueba de que las explicaciones refinadas ( $z$ ) están garantizadas para estar a una distancia menor o igual a la de las explicaciones originales ( $r$ ) respecto a la instancia factual ( $x$ ), bajo condiciones normales.
Eficiencia Esparsa: Capacidad de lograr el mismo efecto contrafactual modificando solo una fracción de las características originales.

4. Resultados Experimentales

Los autores evaluaron COLA en 4 conjuntos de datos (HELOC, German Credit, Hotel Bookings, COMPAS), 12 modelos (desde Regresión Logística hasta Redes Neuronales Profundas) y 5 algoritmos generadores de CE (DiCE, AReS, GlobeCE, KNN, Discount).

Reducción de Acciones: COLA logra el mismo efecto contrafactual objetivo (80% - 100%) utilizando solo el 26% al 45% de las modificaciones de características que requería la explicación original. En algunos casos, la reducción es aún mayor (hasta un 13-25% para el 80% de efecto).
Superioridad de p-SHAP: El método CF-pOT (COLA con p-SHAP y OT) superó consistentemente a todas las variantes de línea base (RB-pUni, RB-pOT, CF-pUni, CF-pRnd). Esto confirma que la alineación mediante OT es crucial y que el uso de la información de CE en la atribución de Shapley es superior a usar distribuciones de entrenamiento estándar.
Optimalidad: En un benchmark a pequeña escala donde se resolvió un Problema de Programación Lineal Entera Mixta (MILP) para obtener la solución óptima global, COLA demostró un rendimiento cercano al óptimo, validando su eficacia práctica.

5. Significado e Impacto

Accionabilidad Mejorada: Al reducir drásticamente el número de cambios necesarios, las explicaciones se vuelven más prácticas para los usuarios finales (ej. un solicitante de crédito sabe exactamente qué 2 o 3 factores cambiar para ser aprobado, en lugar de tener una lista larga de cambios).
Independencia y Flexibilidad: Al ser agnóstico al generador de CE y al modelo, COLA puede integrarse en cualquier flujo de trabajo de IA explicable (XAI) existente como una capa de refinamiento.
Fundamento Teórico Sólido: La conexión entre el Transporte Óptimo y la minimización de la divergencia de salida del modelo proporciona una base matemática robusta para la selección de características, superando la heurística de métodos anteriores.
Ética y Equidad: El método incluye mecanismos para excluir atributos protegidos y asegurar la viabilidad de los cambios, aunque los autores advierten que las explicaciones contrafactuales no garantizan por sí solas la equidad y deben usarse con precaución en sistemas de alto riesgo.

En resumen, COLA representa un avance significativo en la XAI al transformar explicaciones contrafactuales "ruidosas" y costosas en planes de acción precisos, eficientes y teóricamente fundamentados, utilizando la intersección entre el Transporte Óptimo y los Valores de Shapley.