HattriQ: Designing Integrated Gradients for Feature Attribution in Quantum Machine Learning

Este artículo presenta HattriQ, un marco de propósito general que habilita la interpretabilidad en el aprendizaje automático cuántico basado en circuitos mediante el cálculo de gradientes integrados basados en amplitudes directamente en hardware cuántico utilizando pruebas de Hadamard, superando las limitaciones de los métodos clásicos debidas al colapso de la medición y la complejidad de la simulación.

Lo esencial

Imagina que tienes una caja negra mágica y supercompleja que puede mirar una imagen de un gato y decirte: "¡Eso es un gato!". Esta caja es un modelo de Aprendizaje Automático Cuántico (QML). Es increíblemente poderosa, pero funciona utilizando las extrañas leyes de la física cuántica.

¿El problema? Es una caja negra. Incluso las personas que la construyeron no pueden explicar fácilmente por qué decidió que era un gato. ¿Miró las orejas? ¿Los bigotes? ¿O simplemente tuvo suerte? En el mundo clásico, tenemos herramientas para asomarnos y ver qué partes de la entrada fueron más importantes. Pero en el mundo cuántico, si intentas asomarte, la magia desaparece (el estado cuántico "colapsa") y la respuesta cambia.

Este artículo presenta HATTRIQ, una nueva herramienta diseñada para resolver este misterio sin romper la magia.

El Problema Central: La Caja "Invisible"

Piensa en una computadora cuántica como un chef cocinando un plato en una cocina completamente sellada y a prueba de sonido. Les das ingredientes (los datos) y te sirven una comida terminada (la predicción).

• IA Clásica: Puedes preguntarle al chef: "¿Usaste más sal o más pimienta?" y él puede revisar su receta.
• IA Cuántica: El chef está trabajando con ingredientes que existen en dos lugares a la vez (superposición). Si abres la puerta para preguntar sobre la sal, los ingredientes se transforman instantáneamente en otra cosa y la receta se arruina.

Debido a esto, anteriormente no podíamos decir qué "ingrediente" (píxel en una imagen, o punto de datos) era más importante para la decisión final.

La Solución: HATTRIQ (El "Espejo Mágico")

Los autores crearon HATTRIQ (Esquema de puntuación de atribución de entrada basado en la prueba de Hadamard para modelos cuánticos).

En lugar de intentar asomarse dentro de la cocina y arruinar el plato, HATTRIQ utiliza un astuto truco de espejo (llamado prueba de Hadamard).

• La Analogía: Imagina que quieres saber cuánto contribuyó un ingrediente específico al sabor, pero no puedes probar la sopa directamente. En su lugar, ejecutas una versión "fantasma" paralela del proceso de cocción junto con la real. Al comparar cómo interactúan la sopa real y la sopa fantasma, puedes calcular matemáticamente exactamente cuánto importó ese ingrediente específico, sin nunca abrir la olla.

HATTRIQ hace esto en el hardware cuántico real. Ejecuta un circuito especial que le pregunta a la computadora cuántica: "Si modifico esta parte específica de la entrada, ¿cómo cambia la respuesta final?". Lo hace midiendo la "probabilidad" de un resultado específico, lo que revela la importancia de esa característica de entrada.

Cómo Funciona (El Concepto del "Gradiente")

En términos simples, HATTRIQ calcula Gradientes Integrados.

• Imagina que caminas desde una pantalla en blanco (sin imagen) hasta una imagen completa de un gato.
• HATTRIQ da pequeños pasos a lo largo de ese camino. En cada paso, pregunta: "¿Cuánto contribuyó este píxel específico al cambio?".
• Suma todas esas pequeñas contribuciones para darte una puntuación final: "Este píxel fue muy importante (Positivo Alto)", "Este píxel fue confuso (Negativo)" o "Este píxel no importó (Cero)".

En Qué Lo Probaron

El equipo probó HATTRIQ en varias "cajas negras" para ver si podía explicar sus decisiones:

1. Patrones Simples: Distinguir entre barras y rayas.
2. Dígitos Escritos a Mano: Reconocer números como 0, 1, 3, 4, etc. (de los conjuntos de datos MNIST y NIST).
3. Ropa: Diferenciar entre un vestido y una camisa, o entre botas y sandalias (FashionMNIST).
4. Datos de Física Cuántica: Incluso lo probaron con datos que representan espines magnéticos en una cadena (conjunto de datos TFIM), demostrando que funciona con datos cuánticos puros, no solo con imágenes.

Los Resultados: ¡Realmente Funciona!

• Tiene sentido: Cuando HATTRIQ miró una imagen del número "4", resaltó los ángulos agudos del 4 e ignoró el fondo. Cuando miró un "3", resaltó las curvas. No solo adivinó; encontró las características reales que el modelo estaba utilizando.
• Es robusto: Lo probaron con hardware cuántico "ruidoso" (simulando una máquina ligeramente rota o imperfecta). Incluso con errores, HATTRIQ aún dio respuestas claras y precisas.
• Es eficiente: Demostraron que se pueden ejecutar estas pruebas en paralelo (usando múltiples "cocinas fantasma" a la vez) para acelerar el proceso.

Por Qué Esto Importa

Antes de HATTRIQ, si una IA cuántica cometía un error, no teníamos idea de por qué. Volábamos a ciegas.

• Confianza: Ahora, podemos verificar si la IA está mirando las cosas correctas (como la forma de un zapato) o las incorrectas (como un punto de polvo aleatorio).
• Depuración: Si la IA está sesgada o confundida, HATTRIQ ayuda a los desarrolladores a ver exactamente dónde está ocurriendo la confusión para que puedan corregir el modelo.

En resumen, HATTRIQ es la primera linterna que nos permite ver dentro de la caja negra cuántica sin apagar las luces. Traduce las decisiones cuánticas confusas e invisibles en un mapa claro de "qué importó" para la respuesta final.

Resumen técnico

Resumen Técnico: HATTRIQ – Diseño de Gradientes Integrados para Atribución de Características en Aprendizaje Automático Cuántico

1. Declaración del Problema

Los algoritmos de Aprendizaje Automático Cuántico (QML) muestran promesa en diversas plataformas de hardware, pero sufren de una falta de interpretabilidad debido a la opacidad inherente de la evolución de los estados cuánticos y la ausencia de observabilidad intermedia. Si bien los métodos clásicos de interpretabilidad, como los Gradientes Integrados (IG) y el análisis de sensibilidad basado en sustitutos, están bien establecidos, no son directamente compatibles con los circuitos cuánticos.

• Colapso de la Medición: Intentar registrar o registrar estados cuánticos ocultos después de cada capa del circuito colapsa el estado, destruyendo el cálculo.
• Complejidad Exponencial: Simular la evolución del estado para modelos grandes requiere manipular vectores de amplitud complejos en espacios de Hilbert exponencialmente grandes, lo que hace que la simulación clásica sea intensiva en recursos.
• Incompatibilidad: Los métodos tradicionales de sensibilidad (por ejemplo, puntuaciones de Sobol/Shapley) no pueden preservar la unitariedad de los circuitos cuánticos, y las reglas de gradiente estándar (como el desplazamiento de parámetros) son difíciles de aplicar cuando los datos se codifican mediante incrustación de amplitud, ya que la estructura del circuito de preparación del estado a menudo cambia según la entrada.

En consecuencia, existe una brecha crítica en la comprensión de cómo las características de entrada influyen en los resultados de medición finales en modelos de QML codificados en amplitud.

2. Metodología: HATTRIQ

Los autores proponen HATTRIQ (esquema de puntuación de atribución de entrada basado en la prueba de Hadamard para modelos cuánticos), un marco diseñado para calcular puntuaciones de atribución de entrada para modelos de QML basados en circuitos que utilizan incrustación de amplitud. La metodología adapta el enfoque clásico de Gradientes Integrados (IG) al entorno cuántico sin requerir acceso a estados cuánticos internos.

Componentes Principales

• Incrustación de Amplitud: El marco se dirige al esquema de codificación ampliamente utilizado donde las características de los datos se codifican como amplitudes del estado de entrada $|x\rangle = \sum x_i |b_i\rangle$. Esto permite codificar exponencialmente muchas características en relación con el número de qubits.
• Derivación del Gradiente (Lema III.1): Los autores derivan una expresión en forma cerrada para el gradiente de la salida del modelo $F(x; \theta)$ con respecto a las componentes reales ($c_k$) e imaginarias ($d_k$) de las amplitudes de entrada.
  $$\frac{\partial F}{\partial c_k} = 2 \text{Re}[\langle b_k | U^\dagger(\theta) O U(\theta) | x \rangle]$$
  Esta expresión relaciona el gradiente con el valor esperado de un operador específico que actúa sobre el estado de entrada, evitando la necesidad de tomografía de estado explícita.
• Construcción de la Prueba de Hadamard: Para calcular los productos internos requeridos $\langle b_k | \tilde{O} | x \rangle$ directamente en el hardware cuántico, HATTRIQ emplea un circuito de prueba de Hadamard.
  • El circuito utiliza un qubit (o registro) auxiliar y operaciones controladas.
  • Una rama prepara el estado base $|b_k\rangle$, y la otra prepara el estado de entrada $|x\rangle$ seguido de la unitaria del modelo $U(\theta)$ y el observable $O$.
  • La probabilidad de medir el auxiliar en el estado $|0\rangle$ produce la parte real del producto interno, que corresponde al componente del gradiente.
• Paralelización (Teorema IV.3): Para abordar la escala lineal de las evaluaciones de circuitos con el número de características de entrada, los autores introducen una técnica de paralelización de múltiples auxiliares. Al utilizar $m$ qubits auxiliares, el marco puede calcular $2^m - 1$ componentes de gradiente concurrentemente en una sola ejecución de circuito, preservando la eficiencia espacial exponencial de la incrustación de amplitud.

3. Contribuciones Clave

El artículo describe las siguientes contribuciones específicas:

1. Formalismo para IG en QML: Un método formal para calcular gradientes integrados para modelos de QML que utilizan incrustación de amplitud, un esquema previamente difícil de diferenciar eficientemente.
2. Construcción de Circuitos Nativos Cuánticos: Un diseño de circuito basado en la prueba de Hadamard que calcula gradientes de características exactos directamente en el hardware cuántico sin requerir conocimiento del estado cuántico interno.
3. Estrategia de Paralelización: Una técnica de múltiples auxiliares que permite el cálculo concurrente de gradientes, la cual escala exponencialmente con el número de qubits auxiliares, haciendo viable el enfoque para conjuntos de datos más grandes en dispositivos con capacidad suficiente.
4. Validación Empírica: Evaluación de HATTRIQ en tareas de clasificación utilizando Barras y Rayas, MNIST, FashionMNIST y un conjunto de datos cuántico sintético del Modelo de Ising de Campo Transversal (TFIM).
5. Código de Código Abierto: Lanzamiento del código y los conjuntos de datos para facilitar la reproducibilidad.

4. Resultados Experimentales

Los autores evaluaron HATTRIQ utilizando simulaciones (asumiendo hardware ideal corregido de errores) y simulaciones ruidosas representativas de la computación cuántica tolerante a fallos temprana (EFTQC).

• Conjuntos de Datos y Precisión: El marco se probó en tareas de clasificación binaria en múltiples conjuntos de datos. Los modelos lograron una alta precisión (por ejemplo, ~95-100% en subconjuntos de Barras/Rayas y NIST; ~70-99% en subconjuntos de FashionMNIST).
• Calidad de la Atribución:
  • Relevancia Semántica: Para conjuntos de datos de imágenes (NIST, MNIST, FashionMNIST), los mapas de atribución generados destacaron regiones semánticamente significativas. Por ejemplo, en la clasificación de dígitos, las atribuciones se centraron en los trazos de los dígitos ignorando el ruido de fondo. En FashionMNIST, el modelo identificó correctamente las correas de los bolsos y excluyó las áreas de sandalias.
  • Comparación de Codificación: Si bien la codificación angular y de amplitud lograron precisiones de clasificación similares, HATTRIQ reveló que producían patrones de atribución marcadamente diferentes, lo que sugiere estrategias diferentes de utilización de características.
  • Validación del Modelo Nulo: Cuando se aplicó a "modelos nulos" (parámetros inicializados aleatoriamente), HATTRIQ produjo mapas de atribución difusos y no concentrados, confirmando que las atribuciones estructuradas en modelos entrenados no son artefactos del método, sino que reflejan características aprendidas.
• Robustez:
  • Ruido de Disparo: Incluso con recuentos de disparos de medición bajos (10–100 disparos), las puntuaciones de atribución permanecieron en gran medida fieles a las simulaciones exactas, con desviaciones que solo aparecían en atribuciones débiles.
  • Ruido de Hardware: Bajo un canal de ruido despolarizante ($\gamma = 10^{-4}$), las puntuaciones de atribución mantuvieron su distribución espacial e intensidad relativa, demostrando idoneidad para dispositivos tolerantes a fallos tempranos.
• Datos Cuánticos (TFIM): En el conjunto de datos sintético TFIM, HATTRIQ identificó correctamente las transiciones de fase. En el régimen de campo fuerte ($g > 1$), las atribuciones se centraron en las correlaciones $\sigma_x$, mientras que en el régimen de campo débil ($g < 1$), las atribuciones se desplazaron a las componentes $\sigma_y$ y $\sigma_z$, alineándose con la intuición física.

5. Significado y Afirmaciones

El artículo posiciona a HATTRIQ como el primer método de atribución de entrada basado en gradientes diseñado específicamente para modelos de QML que soporta codificación de amplitud y opera nativamente en hardware cuántico.

• Compatibilidad con Hardware: A diferencia de los métodos anteriores de interpretabilidad que dependen de sustitutos clásicos o perturbación (que rompen la unitariedad o requieren colapso de estado), HATTRIQ utiliza una construcción basada en circuitos que respeta la mecánica cuántica.
• Escalabilidad: Al aprovechar la prueba de Hadamard y la paralelización de múltiples auxiliares, el método aborda la complejidad exponencial de la codificación de amplitud, ofreciendo un camino hacia la interpretabilidad escalable para modelos cuánticos más grandes.
• Confianza y Depuración: El marco permite la identificación de características altamente influyentes y permite a los investigadores verificar si las predicciones del modelo se alinean con regiones semánticamente significativas. También proporciona un mecanismo para detectar sesgos hacia artefactos de fondo o para comparar diferentes esquemas de codificación que pueden tener una precisión similar pero una lógica interna diferente.

Los autores concluyen que HATTRIQ proporciona un marco unificado e independiente de la implementación para la atribución de entrada con garantías de fidelidad, marcando un paso significativo hacia la transparencia y la confiabilidad de los modelos de QML. Se señala que el trabajo futuro podría extender el marco a atribuciones de parámetros y capas.