DCFO: Density-Based Counterfactuals for Outliers -- Additional Material

Resumen Técnico: DCFO - Contrafactuales Basados en Densidad para Valores Atípicos

Planteamiento del Problema
La detección de valores atípicos es crítica para identificar anomalías en dominios como la detección de fraudes y el diagnóstico de fallos en sistemas. Sin embargo, explicar por qué un punto de datos específico se marca como un valor atípico sigue siendo un desafío significativo. Aunque las explicaciones contrafactuales —que identifican los cambios mínimos necesarios para alterar la predicción de un modelo— son una técnica popular en la IA Explicable (XAI), los métodos existentes luchan con los algoritmos de detección de valores atípicos, particularmente con el Factor de Valor Atípico Local (LOF).

LOF cuantifica la atipicidad basándose en la densidad local relativa. Un desafío fundamental en la generación de contrafactuales para LOF es su naturaleza no continua: pequeños cambios en una observación pueden alterar abruptamente su conjunto de $k$-vecinos más cercanos, provocando saltos discontinuos en la puntuación de atipicidad. Esta discontinuidad hace que los métodos de optimización basados en gradientes estándar sean ineficaces, ya que dependen de transiciones de predicción suaves. Por el contrario, enfoques alternativos como la optimización bayesiana o los algoritmos genéticos, que no requieren gradientes, a menudo incurren en costos computacionales prohibitivos en configuraciones de alta dimensión o fallan en producir contrafactuales válidos de manera consistente. Además, muchos métodos de contrafactuales existentes están diseñados para tareas de clasificación y no tienen en cuenta la naturaleza desequilibrada específica de la detección de valores atípicos ni las características no accionables que a menudo están presentes en datos del mundo real.

Metodología: DCFO
Los autores proponen Contrafactuales Basados en Densidad para Valores Atípicos (DCFO), un método diseñado específicamente para generar explicaciones contrafactuales para LOF. La innovación central de DCFO es la explotación de la estructura interna de LOF para permitir una optimización eficiente basada en gradientes a pesar de la no continuidad subyacente.

1. Partición Basada en Regiones: DCFO divide el espacio de datos en regiones donde la puntuación de LOF se comporta de manera suave. Una región se define por una "clave" única $K(x)$, que codifica el conjunto de $k$-vecinos más cercanos de un punto $x$ y los $k$-vecinos más cercanos de cada uno de esos vecinos. Dentro de cualquier región $R_K$ de este tipo, el conjunto de puntos que influyen en el cálculo de LOF permanece fijo.
2. Diferenciabilidad: Los autores demuestran que dentro de una región específica $R_K$, la función de puntuación de LOF, denotada como $LOF_K(x)$, es continua y diferenciable en casi todas partes (asumiendo una función de distancia bien comportada como la distancia euclidiana). Esta propiedad permite el uso de optimizadores basados en gradientes eficientes.
3. Proceso de Optimización:
   • El algoritmo comienza con un valor atípico $p_i$ y calcula su clave de región $K$.
   • Resuelve un problema de optimización con restricciones para encontrar un punto $x$ que minimice la distancia a $p_i$ sujeto a la restricción $LOF_K(x) \leq t$ (donde $t$ es el umbral de valor atípico).
   • La optimización utiliza Programación de Mínimos Cuadrados Secuencial (SLSQP).
   • Si el optimizador da un paso fuera de la región actual (es decir, la clave cambia), el algoritmo reinicia recursivamente la optimización desde el nuevo punto utilizando la clave de la nueva región.
   • Para asegurar la diversidad, el método mantiene una cola de exploración de puntos que cruzaron los límites de las regiones, lo que le permite generar múltiples contrafactuales distintos iniciando nuevas optimizaciones desde estos puntos.
4. Manejo de Restricciones:
   • Características No Accionables: DCFO permite a los usuarios especificar características inmutables (por ejemplo, la edad). El optimizador se restringe a ajustar solo variables accionables mientras mantiene fijas las características no accionables.
   • Plausibilidad: Al apuntar a puntuaciones de LOF más bajas (que corresponden a una mayor densidad local), el método dirige naturalmente los contrafactuales hacia regiones realistas y de alta densidad del espacio de características, evitando valores atípicos implausibles.

Contribuciones Clave

• Primer Método de Contrafactuales Específico para LOF: DCFO es el primer método diseñado explícitamente para generar contrafactuales para el algoritmo Factor de Valor Atípico Local.
• Innovación Algorítmica: Introduce una estrategia de partición del espacio que transforma el problema no diferenciable de LOF en una serie de subproblemas diferenciables, permitiendo el uso de optimización basada en gradientes.
• Manejo de Características: El método incorpora mecanismos para manejar características no accionables, generar múltiples contrafactuales diversos y asegurar la plausibilidad mediante la orientación a la densidad.
• Validación Empírica: Los autores proporcionan benchmarks extensos en 50 conjuntos de datos de OpenML.

Resultados Experimentales
El artículo evalúa DCFO frente a tres competidores: Baycon (basado en optimización bayesiana), EACE (basado en algoritmo genético) y una Línea Base (mover el valor atípico al inlier más cercano).

• Validez: DCFO logró una puntuación de validez de 1.00 en todos los 50 conjuntos de datos, lo que significa que encontró exitosamente un contrafactual válido para cada valor atípico. En contraste, Baycon logró 0.84, EACE 0.38 y la Línea Base 0.88. Los autores señalan que EACE y la Línea Base fallaron frecuentemente en producir contrafactuales válidos debido al paisaje no continuo de LOF.
• Proximidad: DCFO produjo consistentemente contrafactuales más cercanos a los valores atípicos originales que los competidores. El análisis estadístico utilizando diagramas de diferencia crítica (prueba de Nemenyi) confirmó que el rendimiento de proximidad de DCFO fue significativamente mejor que el de Baycon, que ocupó el segundo lugar.
• Diversidad: Al generar múltiples contrafactuales, DCFO demostró una superioridad estadísticamente significativa en diversidad en comparación con otros métodos, proporcionando una gama más amplia de alternativas accionables.
• Características No Accionables: En experimentos donde se restringió un subconjunto de características, DCFO mantuvo una mayor validez y una mejor proximidad que Baycon, demostrando robustez ante restricciones de características.
• Eficiencia: Aunque la Línea Base fue la más rápida, el enfoque basado en gradientes de DCFO fue significativamente más eficiente que los enfoques bayesianos (Baycon) y genéticos (EACE).

Significado y Afirmaciones
El artículo afirma que DCFO aborda una brecha crítica en la XAI para la detección de valores atípicos al hacer interpretable el algoritmo LOF, ampliamente utilizado pero opaco. Al particionar el espacio de datos para manejar las discontinuidades de LOF, DCFO proporciona explicaciones accionables, válidas y diversas que los métodos existentes no pueden generar de manera confiable. Los autores enfatizan que su método no solo explica por qué una instancia es un valor atípico, sino que también proporciona pasos concretos y mínimos para corregirlo, facilitando así medidas preventivas y construyendo confianza en los sistemas de detección de valores atípicos. El trabajo se presenta como un paso fundamental, sugiriendo trabajo futuro para extender el enfoque a otras variantes de LOF y minimizar el número de características cambiadas.