Towards interpretable AI with quantum annealing feature selection

Aquí se presenta un resumen técnico detallado del artículo "Hacia una IA interpretable con selección de características mediante recocido cuántico."

1. Planteamiento del Problema

Los modelos de Aprendizaje Profundo (DL), en particular las Redes Neuronales Convolucionales (CNN), se utilizan ampliamente en aplicaciones críticas, pero a menudo funcionan como "cajas negras". Si bien existen técnicas de IA Explicable (XAI) como Grad-CAM y Grad-CAM++ para visualizar qué regiones de una imagen influyen en las predicciones, estas adolecen de limitaciones significativas:

• Agregación: Combinan las contribuciones de todos los mapas de características (FMs) en un único mapa de saliencia, fallando en desentrañar los roles específicos de los FMs individuales.
• Redundancia: No filtran representaciones redundantes o correlacionadas, lo que dificulta comprender los patrones aprendidos específicos que impulsan una decisión.
• Complejidad Combinatoria: Seleccionar el subconjunto óptimo de FMs para explicar una predicción es un problema de optimización combinatoria que escala exponencialmente ($2^N$) con el número de características, haciéndolo computacionalmente intratable para una búsqueda exhaustiva clásica.

Los autores proponen que la Selección de Características (FS) aplicada a representaciones aprendidas internas (en lugar de píxeles de entrada crudos) es una herramienta poderosa pero subutilizada para la XAI. Sin embargo, resolver este problema de FS de manera eficiente requiere un nuevo enfoque.

2. Metodología

El artículo propone un enfoque novedoso basado en Recocido Cuántico (QA) para seleccionar los mapas de características más relevantes y no redundantes para una predicción de imagen dada.

A. Filtrado de Mapas de Características

1. Análisis de Gradientes: Los autores calculan el agrupamiento promedio global de los gradientes con respecto a los mapas de características de la capa convolucional final ($f^{(a)}_{ij}$).
   $$\alpha_a = \frac{1}{H_f W_f} \sum_{i,j} \frac{\partial z}{\partial f^{(a)}_{ij}}$$
   donde $\alpha_a$ representa la importancia del mapa de características $a$.
2. Selección Positiva: Solo se retienen los mapas de características con una contribución de gradiente positiva ($\alpha_a > 0$), ya que estos confirman la clase predicha. Esto crea un conjunto filtrado $\{\tilde{f}\}$.

B. Formulación QUBO

El problema de selección se codifica en un problema de Optimización Binaria Cuadrática Sin Restricciones (QUBO) (o equivalentemente, un modelo de Ising).

• Variables: Variables binarias (qubits) representan la inclusión ($1$) o exclusión ($0$) de cada mapa de características filtrado.
• Función Objetivo (Hamiltoniano): El objetivo es maximizar la importancia de los mapas seleccionados mientras se minimiza la redundancia (similitud geométrica).
  $$\hat{H}_{QUBO} = (1 - \beta) \frac{1}{2} \sum_{p,q} J_{pq} \hat{n}_p \hat{n}_q + \beta \sum_{p} h_p \hat{n}_p$$
  • Término Lineal ($h_p$): Representa la importancia normalizada del mapa de características $p$ (derivada de $\alpha_p$).
  • Término Cuadrático ($J_{pq}$): Representa la similitud del coseno absoluto entre los mapas de características $p$ y $q$. Una alta similitud implica redundancia; el término penaliza la selección de ambos.
  • Hiperparámetro ($\beta$): Controla la compensación entre seleccionar características de alta importancia y minimizar la redundancia.

C. Protocolo de Recocido Cuántico

• Inicialización: El sistema comienza en una superposición de todos los subconjuntos posibles de características (estado fundamental de un Hamiltoniano impulsor $\hat{H}_D = -\sum \hat{\sigma}_x$).
• Evolución: El sistema evoluciona mediante un Hamiltoniano dependiente del tiempo $\hat{H}(s) = A(s)\hat{H}_D + B(s)\hat{H}_{QUBO}$, donde $s$ va de 0 a 1.
• Muestreo: El estado final se muestrea para obtener una cadena de bits que representa el subconjunto óptimo de mapas de características. Este subconjunto constituye el "mapa de explicación".

3. Contribuciones Clave

1. Nuevo Marco XAI: La primera aplicación de Recocido Cuántico específicamente para seleccionar mapas de características internos (representaciones latentes) de CNNs, en lugar de píxeles de entrada.
2. Desentrañamiento: A diferencia de Grad-CAM, que agrega todos los mapas, este método aísla un subconjunto disperso y no redundante de FMs, proporcionando una visión más clara de los patrones específicos que utiliza el modelo.
3. Análisis Impulsado por la Física: Los autores analizan el comportamiento computacional del algoritmo utilizando métricas de física cuántica, como el hueco de energía mínimo ($\Delta_{min}$) y la fidelidad, para explicar por qué funciona el método y sus límites de escalabilidad.
4. Enfoque Híbrido: El trabajo demuestra cómo los conceptos NISQ (Quantum Intermedio a Escala Ruidosa) pueden simularse para resolver problemas de FS de alta dimensión que son difíciles para heurísticas clásicas.

4. Resultados

El método se evaluó en el conjunto de datos STL-10 utilizando una arquitectura ResNet-18.

• Desentrañamiento de Clases:
  • Los autores generaron mapas de correlación clase-clase utilizando el coeficiente de Bhattacharyya.
  • El método basado en QA (con $N_f=16$) mostró un desentrañamiento significativamente mejor (matriz más diagonal) en comparación con el modelo completo ResNet-18, lo que indica que los FMs seleccionados son más específicos para clases individuales.
• Rendimiento Cuantitativo (Porcentaje de Caída Promedio):
  • Métrica: El "Porcentaje de Caída Promedio" mide cuánto disminuye la confianza del modelo cuando se enmascaran los píxeles que no están en el mapa de explicación. Una caída menor indica una mejor explicación (el mapa contiene la información crítica).
  • Hallazgos: El método QA-fGradCAM logró un Porcentaje de Caída Promedio menor (mejor rendimiento) que tanto Grad-CAM como Grad-CAM++ en la mayoría de las clases al utilizar un conjunto de características reducido ($N_f=16$).
  • Nota de Escalabilidad: Al escalar al ResNet-18 completo ($N_f=512$) utilizando Recocido Simulado (SA), el rendimiento se degradó. Los autores atribuyen esto a la dificultad de encontrar el mínimo global en instancias QUBO más grandes y a la supresión agresiva de características por parte del término de redundancia sin un ajuste cuidadoso de $\beta$.
• Análisis Físico:
  • Hueco de Energía: Se encontró que el hueco de energía mínimo ($\Delta_{min}$) era relativamente grande (alrededor de $10^{-1}$), lo que sugiere que el paisaje del problema no es la instancia "más difícil" del modelo de Sherrington-Kirkpatrick y es tratable.
  • Fidelidad: Para tiempos de recocido $\tau > 50$, el algoritmo alcanzó una alta fidelidad (convergencia al estado fundamental), confirmando la robustez del protocolo.

5. Significado y Conclusión

• Interpretabilidad: El método mejora la transparencia de los modelos DL al identificar los filtros específicos y no redundantes responsables de una decisión, yendo más allá de los mapas de calor gruesos.
• Potencial de Ventaja Cuántica: Aunque el hardware actual es limitado, el estudio demuestra que formular la XAI como un problema QUBO permite la exploración eficiente de espacios de soluciones exponencialmente grandes. Sugiere que el hardware cuántico futuro podría resolver estos problemas de interpretabilidad más rápido y con mayor precisión que las heurísticas clásicas.
• Direcciones Futuras: Los autores sugieren que el ajuste del hiperparámetro $\beta$ y potencialmente la adición de restricciones de cardinalidad podrían mejorar aún más los resultados. El marco es agnóstico y podría aplicarse a otras arquitecturas (por ejemplo, Vision Transformers) o modelos generativos.

En resumen, este artículo cierra la brecha entre la Computación Cuántica y la IA Explicable, demostrando que el recocido cuántico puede resolver eficazmente el problema combinatorio de la selección de características en redes profundas, lo que conduce a explicaciones de modelos más distintas, confiables e interpretables.