🤖 machine learning

Measuring Explainer Stability via Attribution Separability

Este artículo propone un marco basado en la distribución para evaluar la estabilidad de los métodos de atribución mediante la medición de la separabilidad de las puntuaciones de atribución clasificadas y la determinación de la fiabilidad de las clasificaciones de características, ofreciendo un criterio complementario para comparar la robustez de diferentes explicadores.

Autores originales: Eddie Conti, Álvaro Parafita, Axel Brando

Publicado 2026-08-05

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Eddie Conti, Álvaro Parafita, Axel Brando

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás tratando de entender una misteriosa caja negra que toma decisiones, como un robot decidiendo si aprobar un préstamo o diagnosticar una enfermedad. En el mundo de la Inteligencia Artificial, esto se llama "IA explicable". Para echar un vistazo dentro de la caja, los científicos utilizan herramientas especiales llamadas "Métodos de Atribución". Piensa en estas herramientas como un reflector que ilumina las pistas específicas (o características) que el robot utilizó para tomar su decisión. Si el robot dice "No" a un préstamo, el reflector podría resaltar "ingresos bajos" y "deuda alta" como las razones.

Sin embargo, hay un inconveniente. Algunas de estas herramientas de iluminación son un poco inquietas. Debido a que utilizan pasos aleatorios para descubrir la respuesta, si les haces la misma pregunta dos veces, podrían señalar pistas ligeramente diferentes o clasificarlas en un orden distinto. Es como preguntarle a un grupo de amigos que clasifiquen sus sabores de helado favoritos; si son indecisos o si el viento está soplando, un amigo podría decir "El chocolate es el #1" hoy y "La fresa es el #1" mañana. Esta "inquietud" es un problema porque, si la explicación cambia cada vez que la miras, ¿realmente puedes confiar en ella? Este artículo aborda exactamente esa preocupación: ¿cómo sabemos si la lista de razones que nos da un robot es estable o solo un azar de la aleatoriedad?

Los autores de este artículo, Eddie Conti y su equipo, proponen una nueva y astuta forma de medir esta estabilidad. En lugar de solo preguntar "¿Cambió la respuesta?", preguntan "¿Qué tan separadas están las respuestas?". Tratan la importancia de cada pista no como un único número fijo, sino como una nube de posibilidades. Si la nube de "ingresos bajos" está lejos de la nube de "deuda alta", la clasificación es estable y confiable. Pero si las nubes se superponen como dos parches de niebla fusionándose, la clasificación es inestable.

Para visualizar esto, imagina una carrera donde los corredores son las pistas. Si el primer corredor está esprintando muy por delante del segundo, y el segundo está muy por delante del tercero, el orden es claro. Pero si todos corren en un grupo apretado, es difícil decir quién es realmente el primero. Los investigadores desarrollaron una "regla" matemática para medir la distancia entre estos corredores. Ellos lo llaman "separabilidad de atribución". Su principal hallazgo es que pueden calcular un número específico, que llaman k-estabilidad. Este número te dice exactamente cuántas de las principales pistas de la lista puedes confiar antes de que el orden comience a volverse difuso. Por ejemplo, si tu k-estabilidad es 3, puedes estar seguro de que las tres razones principales están en el orden correcto, pero después de eso, la lista podría ser un desastre.

Cuando probaron esta regla en herramientas populares como SHAP, LIME y DiCE, encontraron algunos patrones interesantes. Descubrieron que SHAP era generalmente el corredor más constante, manteniendo a menudo sus pistas principales en una línea clara y sin superposiciones, especialmente en conjuntos de datos más simples. LIME era decente pero a veces se volvía un poco tambaleante, mientras que DiCE a menudo corría en un grupo tan apretado que era difícil saber quién iba a la cabeza. También comprobaron si ejecutar las herramientas más veces ayudaba. Descubrieron que, para la mayoría de las herramientas, ejecutarlas 50 veces era suficiente para obtener una imagen clara, y ejecutarlas incluso más veces no cambiaba los resultados mucho, lo cual es una buena noticia para ahorrar potencia de cómputo.

El artículo no afirma que una herramienta sea la "mejor" para cada trabajo en todo el universo. De hecho, los autores tienen cuidado de decir que ninguna herramienta gana siempre; depende de los datos específicos y del modelo que se esté utilizando. En cambio, ofrecen esta nueva regla como una forma de que los científicos comparen las herramientas de manera justa. Argumentan que la estabilidad es un prerrequisito para la confianza. Si una herramienta no puede estar de acuerdo consistentemente con sus propias razones principales, es difícil confiar en ella para decisiones importantes. Al usar su método, los investigadores ahora pueden decir: "Esta herramienta es confiable para las 5 razones principales, pero tenga cuidado con el resto", dándonos una visión mucho más clara y honesta de cómo piensan realmente estas cajas negras de la IA.

Resumen Técnico: Medición de la Estabilidad de los Explicadores mediante la Separabilidad de Atribución

Definición del Problema
Los Métodos de Atribución (AM, por sus siglas en inglés), o explicadores, se utilizan ampliamente para interpretar modelos de caja negra asignando puntuaciones de importancia a las características de entrada. Sin embargo, muchos AM populares (por ejemplo, SHAP, LIME, DiCE) incorporan componentes estocásticos, como el muestreo de Monte Carlo o perturbaciones aleatorias. Esta estocasticidad conduce a una variabilidad en las puntuaciones de atribución entre diferentes ejecuciones, lo que plantea preocupaciones sobre la reproducibilidad y la fiabilidad de los rankings de características resultantes. Mientras que trabajos previos han abordado la estabilidad a través de perturbaciones a nivel de entrada (probando cómo cambian las explicaciones cuando la entrada se altera ligeramente), este artículo aborda un desafío distinto: cuantificar la estabilidad del ranking mismo derivado de una única ejecución de un explicador sobre una misma instancia. La pregunta central de investigación es: dada una lista ordenada de importancias de características producida por un AM, ¿hasta qué punto podemos confiar en que las características con mayor rango son realmente más importantes que las siguientes?

Metodología
Los autores proponen un marco basado en distribuciones para cuantificar la estabilidad de los rankings de características mediante el análisis de la separabilidad de las distribuciones de puntuación de atribución.

Modelado de Distribución: En lugar de tratar las puntuaciones de atribución como valores deterministas, el método modela la puntuación de cada característica $i$ como una distribución de probabilidad $p_i$ , estimada a partir de múltiples ejecuciones del AM sobre una instancia específica $x$ .
Métrica de Separabilidad de Atribución: Para medir la distinguibilidad entre dos características en la lista clasificada, los autores emplean una métrica de distancia $d(p, q)$ basada en la generalización continua de la distancia de Jaccard. Esta métrica calcula el solapamiento entre dos distribuciones $p$ y $q$ :
$d(p, q) = 1 - \frac{\int_{\text{supp}(p) \cap \text{supp}(q)} \min(p(x), q(x))dx}{\int_{\text{supp}(p) \cup \text{supp}(q)} \max(p(x), q(x))dx}$
Un valor de $d(p, q)$ cercano a 1 indica una alta separabilidad (bajo solapamiento), mientras que un valor cercano a 0 indica un solapamiento significativo.
Definición de k-Estabilidad: El marco define la k-estabilidad como la longitud del prefijo más grande $k$ de la lista de características ordenadas tal que todos los pares consecutivos de características en el top- $k$ tienen una distancia de distribución $d(p_i, p_j)$ que supera un umbral definido por el usuario. Esto identifica el punto en el ranking donde el orden se vuelve poco fiable debido al solapamiento de las distribuciones.
Marco Comparativo: El método permite la comparación de diferentes AM calculando la proporción de instancias en un conjunto de datos donde un método logra una $k$ -estabilidad mayor que otro.

Contribuciones Clave

Métrica de Estabilidad Novedosa: El artículo introduce un enfoque matemáticamente fundamentado para cuantificar la estabilidad de los rankings de los AM basándose en el análisis de distribuciones en lugar de perturbaciones de entrada.
Validación Formal: Los autores demuestran que, en un caso ideal donde un AM es perfectamente fiel y la estocasticidad desaparece, la métrica de distancia propuesta converge a 1 (máxima separabilidad). Además, demuestran empíricamente que la métrica es sensible al grado de separación entre los valores de importancia de las características.
Herramienta de Evaluación Comparativa: El marco proporciona un mecanismo para comparar la robustez de diferentes explicadores (LIME, SHAP, DiCE) a través de varios modelos y conjuntos de datos sin declarar la superioridad universal de ningún método en particular.

Resultados Experimentales
Los autores evaluaron el marco en cuatro conjuntos de datos de referencia (Diabetes, Heart Disease, Mobile, Churn) utilizando modelos de Random Forest, SVM, Regresión Logística y Árbol de Decisión.

Análisis de Separabilidad: Los experimentos mostraron que SHAP generalmente produjo atribuciones casi deterministas (valor de separabilidad de 1) en conjuntos de datos más simples, mientras que LIME y DiCE exhibieron más variabilidad. En conjuntos de datos complejos, la separabilidad tendió a disminuir hacia la "cola" del ranking (características menos relevantes).
Comparaciones de k-Estabilidad: SHAP demostró consistentemente valores de $k$ -estabilidad más altos en comparación con LIME, DiCE y una línea base aleatoria (RAND) en la mayoría de los conjuntos de datos y modelos. DiCE mostró niveles de estabilidad cercanos a la línea base aleatoria en varios casos.
Sensibilidad de Ejecución: El estudio encontró que la métrica presenta una sensibilidad limitada al número de ejecuciones para LIME, SHAP y DiCE, lo que sugiere que se pueden obtener estimaciones fiables con un número moderado de ejecuciones (por ejemplo, 15–30 ejecuciones), mientras que la línea base aleatoria requirió más ejecuciones para estabilizarse.

Significancia y Reivindicaciones
El artículo posiciona este trabajo como un criterio complementario para evaluar los AM, centrándose específicamente en la fiabilidad del ranking de características inducido. Los autores declaran explícitamente que su objetivo no es declarar un AM universalmente superior, reconociendo el "Teorema de No Free Lunch" para la explicabilidad. En su lugar, argumentan que la estabilidad es un prerrequisito para la confianza del usuario y la generalizabilidad de los conocimientos.

El método propuesto ofrece una forma fundamentada de determinar el "punto de rendimientos decrecientes" en un ranking de características: identificar cuántas de las principales características pueden ser confiables antes de que el orden se vuelva ambiguo debido al ruido estocástico. Los autores señalan limitaciones, incluyendo el enfoque en datos tabulares y la necesidad de seleccionar parámetros de estimación de densidad y umbrales. Enfatizan que una baja $k$ -estabilidad no implica necesariamente falta de fidelidad al proceso de decisión del modelo, sino que indica que la naturaleza estocástica del explicador hace que el orden específico de las características sea poco fiable. Por lo tanto, esta métrica debe utilizarse en conjunto con otras dimensiones de evaluación como la fidelidad y la simplicidad.

Más como este