Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders

Este trabajo presenta LAPACE, un marco generativo basado en un VAE de Mezcla Gaussiana Condicional a la Etiqueta (L-GMVAE) que sintetiza trayectorias de explicaciones contrafactuales robustas, diversas y plausibles mediante la interpolación en el espacio latente hacia centroides prototípicos, garantizando así opciones de recurso estables frente a perturbaciones de entrada y modelo.

Lo esencial

¡Claro que sí! Imagina que este artículo es como una nueva brújula mágica para navegar por el mundo de las decisiones de las Inteligencias Artificiales (IA).

Aquí tienes la explicación en español, usando analogías sencillas:

🌟 El Problema: "¿Por qué me rechazaron?"

Imagina que vas a un banco y la IA te niega un préstamo. Te dicen: "No tienes suficiente dinero". Pero tú quieres saber: "¿Qué tendría que cambiar exactamente para que me lo den?".

Esa respuesta es lo que llamamos una Explicación Contrafactual. Es como decir: "Si hubieras ahorrado 500 euros más, te habríamos aprobado".

El problema es que las explicaciones actuales tienen tres defectos graves:

1. Son frágiles: Si el banco cambia un poco su algoritmo mañana, tu explicación de hoy deja de tener sentido.
2. Son irreales: A veces te dicen: "Cambia tu edad a 150 años" para que te aprueben. ¡Eso es imposible! No es una solución real.
3. Son aburridas: Solo te dan una opción. ¿Y si prefieres ahorrar menos pero trabajar más horas?

🚀 La Solución: LAPACE y el "Mapa de Estrellas"

Los autores de este paper (Junqi Jiang y su equipo) han creado una nueva herramienta llamada LAPACE. Para entenderla, imagina lo siguiente:

1. El Entrenamiento: Creando un "Globo Terráqueo" de Datos

Primero, usan una máquina especial (un modelo llamado L-GMVAE) que lee miles de ejemplos de personas que sí obtuvieron préstamos y las que no.

En lugar de solo memorizar datos, esta máquina crea un "Globo Terráqueo" invisible (un espacio latente). En este globo:

• Las personas que obtienen préstamos se agrupan en ciertas zonas.
• Dentro de esas zonas, hay puntos centrales brillantes (los "centroide"). Imagina que son como islas de éxito o "estrellas guía". Cada estrella representa un tipo de perfil de cliente ideal que el banco ama.

2. El Viaje: Dibujando Caminos Seguros

Cuando alguien recibe un "No", LAPACE no solo le da un punto final. Le dibuja caminos completos (como senderos en un mapa) que van desde su posición actual hasta esas "islas de éxito".

• La Magia: Como todos los caminos van hacia esas mismas "islas" (los centros de las estrellas), el camino es robusto. Si el algoritmo del banco cambia un poco, las "islas" siguen ahí, y el camino sigue siendo válido.
• La Variedad: Como hay varias "islas" (distintos tipos de perfiles ideales), te dan múltiples caminos. Puedes elegir uno corto (cambiar poco) o uno más largo pero más seguro (cambiar más para estar muy dentro de la zona de éxito).

3. Las Reglas del Juego: "No puedo cambiar mi edad"

A veces, no puedes cambiar ciertas cosas (como tu edad o tu género). LAPACE es como un navegante inteligente que sabe esto. Si le dices: "Oye, no puedo cambiar mi edad", el sistema ajusta el camino automáticamente para que te lleve a la "isla de éxito" sin tocar esa característica prohibida.

🎨 Una Analogía Visual: El Cambio de Forma

Imagina que tienes una figura de plastilina (tu perfil actual) y quieres que parezca una estrella (el perfil aprobado).

• Métodos viejos: Te dicen: "¡Estira tu brazo hasta que parezca una estrella!". A veces estiras tanto que la figura se rompe (es irreal) o si cambias la mesa un poco, la figura cae (no es robusta).
• LAPACE: Te muestra un video de cómo tu plastilina puede transformarse suavemente en una estrella. Te muestra todos los pasos intermedios. Además, te dice: "Puedes transformarte en la Estrella A (más fácil) o en la Estrella B (más segura)". Y si te dicen que no puedes cambiar el color, el video se ajusta para que solo cambie la forma, no el color.

🏆 ¿Por qué es genial esto?

1. Es Realista: Los caminos siempre pasan por zonas donde la gente real existe (no te pide que tengas 150 años).
2. Es Estable: Si el banco actualiza su software, tu plan de acción sigue funcionando porque se basa en "islas" fijas y no en detalles frágiles.
3. Es Rápido: Una vez que el mapa se dibuja, encontrar el camino para ti es instantáneo.
4. Es Justo: Te da opciones. Tú decides qué camino tomar según lo que estás dispuesto a cambiar.

En resumen

Este paper presenta un sistema que no solo te dice "qué cambiar" para obtener un resultado deseado, sino que te muestra "cómo cambiarlo" de forma segura, realista y con múltiples opciones, asegurándose de que tu plan de acción no se rompa si el mundo (o el algoritmo) cambia un poco mañana. ¡Es como tener un GPS infalible para la vida digital! 🗺️✨

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo "Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders", presentado en ICLR 2026.

1. El Problema

Las Explicaciones Contrafactuales (CEs) son fundamentales en la IA explicable (XAI) para ofrecer recomendaciones de recurso a individuos afectados por decisiones algorítmicas (ej. denegación de un préstamo). Una CE ideal debe cumplir con múltiples propiedades deseables:

• Validez: Lograr el resultado deseado.
• Proximidad: Estar cerca del input original.
• Plausibilidad: Residir en la variedad (manifold) de los datos reales.
• Diversidad: Ofrecer múltiples opciones distintas.
• Robustez: Mantenerse válida ante cambios en el modelo (re-entrenamiento) y estabilidad ante pequeñas perturbaciones en el input.

Limitaciones actuales: Los métodos existentes suelen abordar estas propiedades de forma aislada o carecen de un enfoque unificado y agnóstico al modelo. Específicamente, muchos métodos luchan para garantizar la robustez ante cambios de modelo (que la explicación siga siendo válida si el modelo se re-entrena) y la robustez ante perturbaciones de entrada (que inputs similares generen explicaciones similares), sin sacrificar la plausibilidad o la diversidad. Además, algunos enfoques basados en vecinos más cercanos pueden exponer datos de entrenamiento sensibles.

2. Metodología Propuesta

Los autores proponen un marco generativo unificado que consta de dos componentes principales:

A. L-GMVAE (Label-conditional Gaussian Mixture Variational Autoencoder)

Es un modelo generativo novedoso diseñado específicamente para el recurso algorítmico.

• Estructura: Adapta el GMVAE estándar para ser condicional a la etiqueta. En lugar de una distribución latente genérica, el espacio latente se estructura mediante una mezcla de Gaussianas donde cada clase de etiqueta ($y$) se asocia con un conjunto dedicado de componentes Gaussianos (clústeres).
• Centroides Latentes: Tras el entrenamiento, la media de cada componente Gaussiano actúa como un centroide latente. Estos centroides representan prototipos diversos, plausibles y robustos para su clase correspondiente.
• Entrenamiento: El modelo se entrena utilizando las predicciones del clasificador objetivo (no solo las etiquetas reales) para asegurar que las explicaciones sean fieles al modelo que se desea explicar.
• Ventaja: Al aprender una variedad de prototipos para cada clase, el modelo captura la diversidad de la distribución de datos de manera estructurada.

B. LAPACE (LAtent PAth Counterfactual Explanations)

Es un algoritmo agnóstico al modelo que utiliza el L-GMVAE para generar explicaciones.

• Generación de Rutas: Para un input $x$ y una clase objetivo $y'$, LAPACE:
  1. Codifica $x$ a su representación latente $z_x$.
  2. Identifica los centroides latentes ($z_{c_j}$) asociados a la clase objetivo $y'$.
  3. Genera rutas completas de puntos contrafactuales interpolando linealmente entre $z_x$ y cada centroide $z_{c_j}$ en el espacio latente.
  4. Decodifica estas trayectorias latentes de vuelta al espacio de entrada.
• Robustez Intrínseca:
  • Contra cambios de modelo: Todas las rutas convergen hacia los mismos centroides fijos (prototipos). Si el modelo cambia, es probable que estos prototipos sigan siendo clasificados correctamente, manteniendo la validez.
  • Contra perturbaciones de entrada: Dado que todas las rutas para una clase objetivo convergen a los mismos puntos fijos, pequeñas variaciones en el input no alteran drásticamente la explicación final, garantizando estabilidad.
• Restricciones de Accionabilidad: El método permite incorporar restricciones del usuario (ej. "el ingreso no puede disminuir") mediante optimización de gradientes ligera a través del decodificador durante la generación de la ruta.

3. Contribuciones Clave

1. L-GMVAE: Propuesta de un nuevo modelo generativo que aprende un espacio latente estructurado por clases, donde los centroides actúan como prototipos ideales para el recurso.
2. LAPACE: Un algoritmo eficiente y agnóstico al modelo que genera rutas completas de explicaciones, permitiendo a los usuarios navegar el compromiso (trade-off) entre proximidad y plausibilidad.
3. Garantía de Robustez: El enfoque asegura robustez perfecta ante perturbaciones de entrada (por convergencia a centroides fijos) y alta robustez ante cambios de modelo (por la naturaleza de los prototipos plausibles).
4. Integración de Restricciones: Mecanismo sencillo para incorporar restricciones de accionabilidad sin necesidad de re-entrenar el modelo.
5. Evaluación Exhaustiva: Validación en múltiples métricas y conjuntos de datos, demostrando competitividad frente al estado del arte.

4. Resultados Experimentales

Los autores evaluaron LAPACE en 8 métricas cuantitativas sobre cuatro conjuntos de datos (Heloc, Wine, Adult, Compas) con clasificadores de Random Forest y Redes Neuronales.

• Validez y Plausibilidad: LAPACE (especialmente la variante "LAPACE-Last", que usa los centroides finales) logra la mejor plausibilidad en todos los conjuntos de datos, superando a métodos como NNCE, FACE y DiCE. Mantiene una validez del 100%.
• Robustez:
  • Modelo: Logra un 100% de robustez ante cambios de modelo (re-entrenamiento), ya que los centroides son prototipos centrales de la clase.
  • Entrada: Garantiza estabilidad perfecta ante perturbaciones de entrada, superando a métodos basados en vecinos.
• Diversidad: Genera múltiples rutas distintas, ofreciendo una mayor diversidad de opciones que métodos que solo devuelven un punto único.
• Eficiencia: Es computacionalmente muy eficiente (segundo solo a NNCE) debido a su naturaleza de inferencia amortizada; una vez entrenado el L-GMVAE, generar explicaciones requiere solo pasadas forward.
• Privacidad: Al generar datos sintéticos (centroides y rutas) en lugar de usar puntos reales del conjunto de entrenamiento, protege la privacidad de los datos originales.
• Restricciones: En pruebas de accionabilidad, LAPACE logró satisfacer el 100% de las restricciones mientras mantenía la validez, superando a las variantes de FACE.

5. Significado e Impacto

Este trabajo representa un avance significativo en la generación de explicaciones contrafactuales al resolver el problema de la fragmentación de requisitos (validez, plausibilidad, diversidad y robustez) en un único marco unificado.

• Cambio de Paradigma: En lugar de buscar un punto contrafactual aislado mediante optimización compleja, LAPACE utiliza la estructura latente aprendida para definir "destinos" (centroides) hacia los cuales convergen todas las explicaciones. Esto proporciona una garantía teórica y práctica de robustez que los métodos heurísticos anteriores no ofrecían.
• Aplicabilidad Práctica: La capacidad de ofrecer un espectro de opciones (desde cambios mínimos hasta cambios muy robustos) empodera a los usuarios finales para tomar decisiones informadas sobre el tipo de recurso que buscan.
• Privacidad y Seguridad: La naturaleza sintética de las explicaciones mitiga los riesgos de filtración de datos sensibles, un problema común en métodos basados en vecinos.

En conclusión, LAPACE demuestra que es posible generar explicaciones contrafactuales que sean simultáneamente plausibles, diversas, robustas y eficientes, estableciendo un nuevo estándar para la generación de recursos algorítmicos confiables.