Alike Parts: A Feature-Informed Approach to Local and Global Prototype Explanations

Resumen Técnico: PARTES SIMILARES: UN ENFOQUE INFORMADO POR CARACTERÍSTICAS PARA EXPLICACIONES DE PROTOTIPOS LOCALES Y GLOBALES

Declaración del Problema
Las explicaciones basadas en prototipos ofrecen un método intuitivo y basado en ejemplos para interpretar clasificadores de aprendizaje automático de caja negra, vinculando las predicciones con instancias representativas de entrenamiento. Sin embargo, existe una limitación significativa: aunque los prototipos proporcionan una visión holística, a menudo carecen de granularidad a nivel de características. Los usuarios luchan por identificar qué características específicas dentro de un prototipo son más relevantes para una predicción, lo que genera una sobrecarga cognitiva al tratar con datos tabulares de alta dimensión. Además, la selección global de prototipos a menudo prioriza la distribución espacial o la minimización de la distancia sin garantizar la diversidad en las atribuciones de características de los prototipos seleccionados, lo que podría omitir límites de decisión críticos y diversos.

Metodología
Los autores proponen un marco que integra puntuaciones de importancia de características en dos niveles distintos para abordar estas brechas: refinamiento de explicaciones locales y aumento de la selección global de prototipos.

1. Explicaciones Locales: "Partes Similares"
   El artículo introduce un método para identificar "partes similares", definidas como los subconjuntos de características compartidas más relevantes entre una instancia clasificada ($x_i$) y su prototipo más cercano ($p_j$).

   • Proceso: Se calculan puntuaciones de importancia de características ($\phi$) tanto para la instancia como para el prototipo utilizando estimadores agnósticos al modelo o específicos del modelo (por ejemplo, Tree SHAP, Tree Interpreter).
   • Alineación: El método calcula un vector de pesos ($w$) que representa la similitud de importancia entre la instancia y el prototipo. Esto se logra mediante un operador de similitud ($\circ$), como el producto de Hadamard (multiplicación elemento a elemento), distancias $l_1$ o $l_2$ elemento a elemento.
   • Enmascaramiento: Se genera una máscara binaria para resaltar las características donde la alineación de importancia supera un umbral. Las estrategias incluyen umbralización media o selección Top-$k$ adaptativa (por ejemplo, $k = \lceil\sqrt{d}\rceil$ o $k = \lceil\log(d)\rceil$).
   • Salida: Esto dirige la atención del usuario a un subconjunto limitado y de alta relevancia de características compartidas por la instancia y el prototipo, en lugar de presentar todo el vector de características.

2. Explicaciones Globales: Función Objetivo Aumentada
   Los autores modifican la función objetivo estándar de selección de prototipos para promover activamente la diversidad en las atribuciones de características.

   • Objetivo Estándar: Los enfoques tradicionales de $k$-medoides minimizan la distancia $d(x_i, p_j)$ entre las instancias de entrenamiento y sus prototipos más cercanos.
   • Objetivo Aumentado: Los autores introducen un término de importancia de características ($f_i$) derivado de las puntuaciones de alineación utilizadas en el método local. La nueva función objetivo es:
     $$f(P) = \sum_{i=1}^{|S|} \min_{p_j \in P} (d(x_i, p_j) + \beta \cdot f_i(x_i, p_j))$$
     Aquí, $\beta$ actúa como un parámetro de compensación entre la distancia métrica y la alineación de importancia de características. Esto fomenta la selección de prototipos que no solo cubren el espacio de datos, sino que también representan subconjuntos diversos de características importantes.

Contribuciones Clave

• Identificación de Partes Similares: Un método novedoso para generar máscaras binarias que resaltan características compartidas y de alta importancia entre una instancia y su prototipo más cercano, mejorando la interpretabilidad local.
• Selección de Prototipos Diversa en Características: Una extensión de los algoritmos de generación de prototipos (específicamente G-KM, SM-A y A-PETE) que incorpora la importancia de características en el bucle de optimización para garantizar la diversidad global en las atribuciones de características.
• Evaluación Exhaustiva: El estudio evalúa múltiples algoritmos de generación de prototipos junto con nuevas funciones de evaluación, explora un conjunto más amplio de algoritmos de importancia de características (Tree SHAP, Tree Interpreter) y realiza un análisis de sensibilidad extenso sobre hiperparámetros (por ejemplo, $\beta$, operadores de similitud, estrategias de enmascaramiento).
• Agnosticismo del Modelo: El marco está diseñado para ser compatible con diversos componentes subyacentes, aunque los experimentos se centran en conjuntos de Random Forest y métricas de distancia basadas en árboles.

Resultados Experimentales
Se realizaron experimentos en seis conjuntos de datos de referencia (Calidad de la Manzana, Lluvia en Australia, Cáncer de Mama, Diabetes, Satisfacción de Pasajeros, Calidad del Vino) utilizando Random Forest como modelo de caja negra.

• Fidelidad: El proceso de selección aumentado mantuvo o, en varios casos, aumentó la fidelidad de predicción del modelo sustituto de 1-Vecino Más Cercano (1-NN) en comparación con la selección de prototipos original (cruda). El análisis estadístico (prueba de rangos con signo de Wilcoxon) indicó una tendencia positiva hacia una fidelidad mejorada ($p \approx 0.068$) y una mejora significativa sobre bases de referencia interpretables estándar como Naive Bayes, Regresión Logística y Árboles de Decisión ($p < 0.05$).
• Diversidad de Características: El enfoque informado por importancia de características (FI) identificó con éxito prototipos con mayor diversificación de características. Por ejemplo, en el conjunto de datos de Diabetes, el método informado por FI resaltó características clínicamente relevantes (Edad, Función de Pedigrí de Diabetes) que el método basado únicamente en distancia cruda omitió.
• Sensibilidad de Hiperparámetros: Se encontró que el producto de Hadamard era la métrica de similitud más efectiva en todos los conjuntos de datos. El estudio señaló que, aunque algunas tendencias eran globales, la sintonización personalizada de hiperparámetros (como ignorar la dirección o la normalización) seguía siendo necesaria para conjuntos de datos específicos.
• Frecuencia de Activación: El análisis de las frecuencias de activación de características confirmó que el objetivo informado por FI reduce la variación en el uso de características, obligando a la selección de un conjunto de prototipos más diverso.

Significado y Afirmaciones
El artículo afirma que integrar la importancia de características en la selección de prototipos no compromete la fidelidad del modelo; más bien, buscar atribuciones de características diversas puede ser complementario a la cobertura basada en distancia. El significado principal radica en cerrar la brecha entre ejemplos de prototipos de alto nivel y el razonamiento de características de bajo nivel. Al identificar "partes similares", el método guía la atención del usuario hacia la razón específica compartida entre una instancia y su prototipo, abordando los desafíos de interpretabilidad de los datos tabulares de alta dimensión. Los autores enfatizan que este enfoque equilibra la interpretabilidad y la diversidad, mejorando tanto las explicaciones locales como el proceso global de selección de prototipos sin requerir modificaciones a la lógica interna del modelo de caja negra subyacente.

Los autores notan modestamente que, aunque el método mejora la calidad de la explicación (a través de métricas proxy como fidelidad y diversidad de características), la hipótesis central de que "partes similares" mejoran la comprensión real del usuario requiere validación futura mediante estudios formales de interacción humano-computadora. Además, aunque la implementación actual se centra en conjuntos de árboles, el diseño modular permite la adaptación a otras arquitecturas (por ejemplo, redes neuronales) mediante la sustitución de los componentes de estimación de distancia e importancia.