Resumen Técnico: Explicaciones Contrafactuales Bajo Deriva de Concepto

1. Planteamiento del Problema

Las explicaciones contrafactuales (EC) son mecanismos de recurso accionables que responden a la pregunta "¿qué necesita cambiar para que el resultado sea diferente?". Aunque la literatura existente cubre extensamente la generación de EC para datos estáticos y clasificadores fijos, este artículo identifica una brecha crítica: el mantenimiento de EC bajo deriva de concepto.

En entornos de datos en evolución (por ejemplo, flujos de datos), los clasificadores se actualizan frecuentemente en línea para adaptarse a distribuciones de datos cambiantes. Los autores argumentan que una EC válida en el momento de su generación puede volverse inválida silenciosamente a medida que el modelo evoluciona, incluso si la explicación original era robusta frente a cambios de modelo acotados y de un solo paso. A diferencia de investigaciones previas sobre robustez, que buscan endurecer una única explicación frente a un evento de reentrenamiento acotado, este trabajo aborda la degradación continua de una población de EC a medida que un clasificador se actualiza repetidamente con el tiempo. El desafío central es mantener la validez y la plausibilidad local de las EC existentes sin el costo computacional de regenerarlas desde cero después de cada actualización del modelo.

2. Metodología

Los autores proponen un esquema de mantenimiento ligero y agnóstico al modelo que repara las EC existentes utilizando muestreo local y una ventana deslizante de observaciones recientes.

2.1 Representación del Estado y Activación

El sistema mantiene un estado $s = (x_0, x', c', a)$ para cada instancia de consulta $x_0$, donde $x'$ es la EC actual, $c'$ es la clase objetivo y $a$ es un indicador activo.

• Jubilación: Un estado se jubila si el clasificador actual $f_t$ ya predice la clase objetivo para $x_0$ (es decir, la deriva resolvió naturalmente la necesidad de recurso).
• Activación de Actualización: Se activa una actualización si la EC actual es inválida ($f_t(x') \neq c'$) o tiene baja confianza en la clase objetivo ($p_t(c' | x') < \tau_{low}$).

2.2 El Mecanismo de Actualización

El método aplica un vector de corrección a la EC actual $x'$, equilibrando tres objetivos:

1. Dirección de Validez ($v$): Aumenta la probabilidad de la clase objetivo. Para modelos no diferenciables (por ejemplo, árboles de Hoeffding), esto se estima muestreando perturbaciones locales alrededor de $x'$, consultando al clasificador y ajustando un sustituto lineal ponderado localmente (similar a LIME) para aproximar el gradiente.
2. Dirección de Plausibilidad ($p$): Mueve la EC hacia regiones densas de la clase objetivo en el flujo de datos reciente. Esto se calcula utilizando una dirección de desplazamiento de media ponderada por kernel basada en los $k$-vecinos más cercanos de la clase objetivo dentro de un búfer deslizante $B_t$.
3. Atracción de Proximidad ($r$): Un vector que atrae a $x'$ de vuelta hacia la instancia original $x_0$ para minimizar la desviación innecesaria.

La dirección de actualización $d$ es una combinación lineal normalizada del vector de corrección seleccionado ($u \in \{v, p\}$) y la atracción de proximidad:
$$d = \frac{\lambda_u \hat{u} + \lambda_r \hat{r}}{\|\lambda_u \hat{u} + \lambda_r \hat{r}\|}$$
donde $\lambda_u$ y $\lambda_r$ controlan la fuerza relativa de la corrección y la proximidad, respectivamente.

2.3 Variantes de Mantenimiento

El artículo evalúa dos estrategias específicas:

• Validez–Plausibilidad (Nuestro-VP): Utiliza la dirección de validez $v$ cuando la EC es inválida o de baja confianza. Además, aplica la dirección de plausibilidad $p$ periódicamente (cada $K$ pasos) para mantener las EC válidas alineadas con las distribuciones de datos recientes.
• Solo Plausibilidad (Nuestro-P): No estima la dirección de validez. En su lugar, se basa únicamente en la dirección de plausibilidad $p$ para reparar EC inválidas o de baja confianza, probando si moverse hacia regiones densas del objetivo es suficiente para restaurar la validez bajo deriva gradual.

3. Configuración Experimental y Resultados

Los experimentos se realizaron en flujos sintéticos con deriva (Hipercubo Rotatorio, Seno, SEA) utilizando clasificadores en línea (Regresión Logística y Árboles de Hoeffding Adaptativos).

3.1 Hallazgos Clave

• Degradación de EC Estáticas: Las EC "congeladas" (incluidas las generadas por métodos robustos como RobX) pierden rápidamente su validez a medida que se acumula la deriva de concepto. Por ejemplo, en el flujo de Hipercubo Rotatorio, la validez cayó a ~0.29–0.35 para las EC congeladas.
• Preservación de la Validez: Ambas variantes de mantenimiento (Nuestro-P y Nuestro-VP) preservaron con éxito una validez casi perfecta (a menudo 1.0) a lo largo del flujo, superando significativamente a las líneas base congeladas.
• Mejora en la Plausibilidad: Las EC mantenidas lograron puntuaciones de plausibilidad local sustancialmente más altas (kNN y KDE) en comparación con las líneas base de regeneración como Vecino Más Cercano (NN) y Esferas Crecientes (GS). Esto se debe a que el esquema de mantenimiento incorpora explícitamente el búfer de datos reciente, mientras que los métodos de regeneración a menudo optimizan solo para validez y proximidad.
• Compensación de Proximidad: Las EC mantenidas exhibieron mayores distancias $L_2$ (proximidad) en comparación con los métodos de regeneración. Los autores atribuyen esto al costo de mantener la plausibilidad local; las EC se mueven hacia regiones recientes de la clase objetivo que pueden estar ligeramente más lejos de la instancia original que el punto válido más cercano encontrado por la regeneración.
• Eficiencia Computacional: A pesar de realizar 200 actualizaciones de mantenimiento, los métodos propuestos fueron competitivos o más rápidos que las líneas base de regeneración (por ejemplo, RobX) que se ejecutan solo una vez al final del flujo. Nuestro-P fue notablemente más rápido que Nuestro-VP al evitar la estimación de la dirección de validez.

4. Contribuciones

El artículo afirma las siguientes contribuciones:

1. Definición del Problema: Introduce el mantenimiento de EC bajo deriva de concepto como una clase de problema distinta, diferenciándola de los entornos de robustez estática. El objetivo es mantener una población de explicaciones válida y plausible a medida que el clasificador evoluciona, en lugar de endurecer una única explicación frente a un único cambio.
2. Método Propuesto: Un esquema ligero y agnóstico al modelo que repara las EC utilizando muestreo local para estimar direcciones de validez y plausibilidad mientras preserva la proximidad.
3. Evidencia Empírica: Demostración de que las EC estándar y robustas pierden sistemáticamente su validez bajo deriva continua, mientras que el esquema propuesto preserva la validez y la plausibilidad local a un costo computacional menor que la regeneración repetida.

5. Significado y Limitaciones

Los autores posicionan este trabajo como una prueba de concepto inicial. El significado radica en cambiar el paradigma de la XAI en entornos de streaming, pasando de tratar las explicaciones como artefactos estáticos a verlas como objetos dinámicos que requieren mantenimiento. Esto es particularmente relevante cuando el generador original de EC es computacionalmente costoso, no está disponible o no es adecuado para una reejecución frecuente.

El artículo reconoce modestamente sus limitaciones:

• La evaluación se restringe a flujos sintéticos de baja dimensión con deriva gradual controlada.
• Aún no establece el rendimiento en escenarios complejos del mundo real, datos de alta dimensión o datos de tipo mixto.
• Se sugiere trabajo futuro para explorar flujos de datos reales, clasificadores diferenciables y extender el mantenimiento de EC individuales a contrafactuales a nivel de grupo.

Los autores concluyen que mantener las explicaciones a lo largo del tiempo es una alternativa práctica a la regeneración repetida, ofreciendo un equilibrio entre validez, plausibilidad y costo computacional en entornos en evolución.