Explaining a probabilistic prediction on the simplex with Shapley compositions

Resumen Técnico: Explicación de una Predicción Probabilística en el Símplex mediante Composiciones de Shapley

Planteamiento del Problema
Los modelos de aprendizaje automático, particularmente aquellos que realizan clasificación multiclase, a menudo producen distribuciones de probabilidad discretas en lugar de valores escalares. Estos resultados residen en un símplex multidimensional. Aunque los valores de Shapley son una herramienta estándar para explicar predicciones escalares cuantificando las contribuciones de las características, su aplicación directa a entornos multiclase es problemática. Los enfoques actuales suelen calcular valores de Shapley por separado para cada clase (uno contra el resto o uno contra uno). Este método ignora la naturaleza composicional de la salida, donde los valores relativos entre probabilidades son más significativos que los valores absolutos, y no respeta la estructura geométrica del símplex de probabilidad. Además, calcular valores separados para cada clase puede dar lugar a explicaciones incoherentes donde el camino acumulativo desde una predicción base hasta la predicción final abandona el espacio del símplex.

Metodología
Los autores proponen las composiciones de Shapley, un marco que extiende los valores de Shapley al espacio de las distribuciones de probabilidad discretas utilizando la geometría de Aitchison de la ciencia de datos composicionales.

1. Geometría de Aitchison: El artículo trata el símplex de probabilidad ($S_D$) no como un espacio euclídeo estándar, sino como un espacio con operaciones específicas:

   • Perturbación ($\oplus$): Actúa como la adición entre composiciones.
   • Potenciación ($\odot$): Actúa como la multiplicación escalar.
   • Producto Interno: Definido mediante razones de logaritmos de las partes.
   • Transformación de Razones Logarítmicas Isométricas (ILR): Mapea el símplex a un espacio euclídeo de $(D-1)$ dimensiones ($\mathbb{R}^{D-1}$), preservando la métrica y permitiendo que las operaciones vectoriales estándar (suma, resta) representen perturbaciones y potenciaciones.

2. Definición de Composición de Shapley:

   • La función característica se redefine para mapear subconjuntos de características al símplex utilizando la resta de Aitchison ($\ominus$), que representa el cambio en la predicción esperada cuando se observan las características.
   • La composición de Shapley para una característica se define como el promedio de estas perturbaciones sobre todas las coaliciones posibles, calculado utilizando las operaciones de Aitchison (perturbación y potenciación) en lugar de la suma y el escalado estándar.
   • Matemáticamente, la composición de Shapley $\phi_i$ es la cantidad única que satisface la Linealidad, la Simetría y la Eficiencia en el símplex de Aitchison.
   • La Eficiencia en este contexto asegura que la perturbación de la distribución base (predicción esperada) por la suma de todas las composiciones de Shapley sea igual a la distribución predicha final: $\bigoplus_{i=1}^d \phi_i = f(x) \ominus E_A[f(X)]$.

3. Visualización y Análisis:

   • Espacio ILR: Las composiciones de Shapley se visualizan como vectores en el espacio ILR de $(D-1)$ dimensiones. Esto permite analizar ángulos (ortogonalidad/redundancia), normas (fuerza de la contribución) y proyecciones sobre composiciones de clases (dirección de influencia).
   • Visualizaciones Alternativas: Para dimensiones más altas, el artículo sugiere visualizar las composiciones como histogramas (mostrando el cambio de distribución por característica) o usar coordenadas paralelas para rastrear la perturbación sucesiva de la distribución de probabilidad desde la base hasta la predicción.

Contribuciones Clave

• Definición Formal: El artículo define las composiciones de Shapley como una extensión de principios para los valores de Shapley al símplex de probabilidad utilizando la geometría de Aitchison.
• Prueba Axiomática: Los autores demuestran que la composición de Shapley es la cantidad única que satisface la linealidad, la simetría y la eficiencia en el símplex de Aitchison, extendiendo así la base teórica de los valores de Shapley a los entornos multiclase.
• Marco Geométrico: El trabajo establece una interpretación geométrica coherente donde las contribuciones de las características son perturbaciones aditivas en el símplex, evitando la incoherencia de los enfoques de uno contra el resto que pueden salir del espacio de probabilidad.
• Herramientas de Visualización: El artículo introduce técnicas de visualización específicas (gráficos ILR, histogramas, coordenadas paralelas) adaptadas para interpretar estas contribuciones multidimensionales.

Resultados y Demostraciones
El artículo proporciona demostraciones de prueba de concepto en lugar de comparativas empíricas a gran escala:

• Conjunto de Datos Iris (3 Clases): Visualizado en un espacio ILP de 2D, mostrando cómo características como el largo y ancho del pétalo perturban la distribución base hacia la región de "versicolor". El análisis destaca cómo las composiciones de Shapley capturan el intercambio entre clases (por ejemplo, que una característica que aumenta la probabilidad de una clase necesariamente disminuye otras) de manera más coherente que los valores SHAP por separado.
• Reconocimiento de Dígitos (4 y 10 Clases):
  • Una tarea de 4 clases (dígitos 0–3) se visualiza en un espacio ILR 3D, ilustrando la estructura tetraédrica del símplex.
  • Una tarea de 10 clases demuestra el uso de balances (razones de logaritmos de grupos de clases) para interpretar componentes ILR específicos. Esto permite a los usuarios centrarse en subespacios que comparan grupos específicos de clases (por ejemplo, impares frente a pares, o pares de dígitos específicos) sin visualizar el espacio de alta dimensión completo.
• Estimación: Los autores adaptan algoritmos de muestreo existentes (del toolkit SHAP) para estimar las composiciones de Shapley, señalando que se requieren ajustes para asegurar que la propiedad de eficiencia se mantenga en las aproximaciones.

Significado y Reivindicaciones
El artículo afirma ser el primero en proponer una extensión formal del marco del valor de Shapley al símplex multidimensional para explicar predicciones probabilísticas multiclase.

• Fundamentación Teórica: La contribución principal es teórica y metodológica, proporcionando una forma "bien fundamentada" de manejar la naturaleza composicional de las salidas multiclase.
• Coherencia: Resuelve el problema de las explicaciones de uno contra el resto al asegurar que el camino de la explicación permanezca dentro del símplex de probabilidad y trate la distribución como una entidad única.
• Trabajo Futuro: Los autores señalan modestamente que sus resultados experimentales se limitan a ejemplos ilustrativos. Identifican la complejidad computacional (que escala con el número de características) y el supuesto de independencia de las características como limitaciones actuales, dejando el desarrollo de algoritmos de estimación para características dependientes y aplicaciones a gran escala para investigaciones futuras.