Local and Multi-Scale Strategies to Mitigate Exponential Concentration in Quantum Kernels

Título: Estrategias Locales y Multiescala para Mitigar la Concentración Exponencial en Kernels Cuánticos

1. El Problema: Concentración Exponencial en Kernels Cuánticos

El artículo aborda un obstáculo fundamental en los métodos de aprendizaje automático cuántico basados en kernels: la concentración exponencial.

• Contexto: Los kernels cuánticos de fidelidad utilizan mapas de características cuánticos para mapear datos clásicos a estados cuánticos. La similitud entre dos datos se mide mediante la fidelidad (solapamiento) de sus estados cuánticos codificados.
• El Fenómeno: A medida que aumenta el tamaño del sistema (número de qubits, $d$) o la expresividad del circuito, los solapamientos entre estados codificados distintos tienden a concentrarse exponencialmente alrededor de un valor independiente de los datos (cercano a cero).
• Consecuencias:
  • La matriz de Gram (kernel) se aproxima a la matriz identidad.
  • Se pierde la estructura de similitud informativa (los elementos fuera de la diagonal se vuelven insignificantes).
  • Esto suprime la capacidad del modelo para distinguir entre clases y hace que la estimación estadística sea costosa en términos de "disparos" (shots) en hardware real.
  • Es tanto un problema estadístico (pérdida de variación informativa) como operativo (costo de medición).

2. Metodología Propuesta

Los autores proponen y evalúan empíricamente dos estrategias para mitigar esta concentración modificando la propia estadística de similitud, implementadas en Qiskit:

A. Kernels Locales (Patch-wise):

• En lugar de calcular un solapamiento global sobre todos los qubits, se divide el sistema en subconjuntos o "parches" ($P_m$).
• Se calcula la similitud dentro de cada parche (usando estados reducidos o subcircuitos) y se agregan los resultados.
• Mecanismo: Al trabajar en espacios de Hilbert más pequeños, se reduce la sensibilidad al "scrambling" (mezcla) global.
• Implementación:
  • Subcircuitos: Se construyen circuitos restringidos a los qubits del parche.
  • Matriz de Densidad Reducida (RDM): Se prepara el estado completo y se traza fuera el complemento del parche.
  • Aggregación: Los kernels de parche se combinan mediante una media ponderada o no ponderada.

B. Kernels Multiescala:

• Combina kernels calculados a diferentes granularidades de parches.
• Mecanismo: Integra información de parches pequeños (que capturan correlaciones de corto alcance) y parches grandes o globales (que capturan similitudes más amplias).
• Implementación: Se define un conjunto de escalas $\{P^{(s)}\}$. Se calcula un kernel por escala (promediando los parches de esa escala) y se combinan mediante una combinación convexa ponderada.
• Estrategia por defecto: Mezcla parches adyacentes disjuntos (local) con el sistema completo (global).

Protocolo Experimental:

• Datos: Conjuntos de datos tabulares reales (cáncer de mama, Parkinson, ionosfera, etc.) y sintéticos.
• Dimensiones: Se realiza un barrido sistemático de la dimensión de características $d \in \{4, 6, \dots, 20\}$.
• Codificación: Se utilizan mapas de características estilo ZZ (ZZ-style) con circuitos poco profundos ($L=1$).
• Evaluación: Se utiliza una Máquina de Vectores de Soporte (SVM) con kernels precalculados. Se mantienen constantes el preprocesamiento, las divisiones de datos (train/val/test) y la selección de hiperparámetros para todas las estrategias.

3. Contribuciones Clave

1. Implementación Unificada: Provee implementaciones en Qiskit de kernels basales (fidelidad global), locales y multiescala bajo una API unificada.
2. Pipeline Reproducible: Establece un protocolo de benchmarking riguroso con preprocesamiento, divisiones y políticas de hiperparámetros fijos para permitir comparaciones justas.
3. Nuevos Diagnósticos: Introduce y aplica métricas específicas para cuantificar la concentración y la riqueza espectral:
   • Estadísticas de concentración fuera de la diagonal (p50/p95): Medianas y percentiles superiores de los elementos no diagonales.
   • Rank Efectivo (basado en entropía): Una medida de la riqueza espectral del kernel (cuántas direcciones informativas existen).
   • Alineación Centrada con Etiquetas: Mide cuánto se correlaciona la estructura de similitud del kernel con las etiquetas reales, eliminando efectos de la media global.

4. Resultados Principales

• Mitigación de la Concentración (Geometría):

  • Los kernels locales y multiescala mitigan consistentemente la concentración exponencial en comparación con el kernel de fidelidad global.
  • Mantienen valores de $p50$ y $p95$ (similitud fuera de la diagonal) significativamente más altos a medida que aumenta $d$.
  • Preservan un rank efectivo más alto, indicando un espectro de eigenvalores más rico y menos colapsado hacia una matriz de baja dimensión.
  • El kernel multiescala suele comportarse como un punto intermedio entre el kernel global y el local.

• Rendimiento en Clasificación (SVM):

  • Resultado Crítico: La reducción de la concentración no garantiza automáticamente una mayor precisión en la clasificación.
  • El impacto en la precisión de la prueba (test accuracy) es dependiente del conjunto de datos y de la dimensión $d$.
  • En algunos casos, los kernels locales/multiescala superan al basel; en otros, son comparables o peores.
  • Interpretación: Una mayor variabilidad en el kernel no es útil si esa variabilidad no está alineada con la estructura de las etiquetas. A veces, el kernel global concentrado es suficiente para tareas simples, o la dilución de correlaciones globales en los kernels locales puede eliminar información crítica.

• Compromisos Computacionales:

  • Los kernels locales y multiescala aumentan la sobrecarga computacional (requieren trazas parciales adicionales o múltiples evaluaciones de circuitos), lo que motiva el uso de aproximaciones (como Nyström) para escalar a conjuntos de datos grandes.

5. Significado e Implicaciones

• Validación de Diagnósticos Geométricos: El estudio confirma que las métricas de concentración (como el rank efectivo y la alineación centrada) son herramientas esenciales para diagnosticar la "salud" de un kernel cuántico, pero no son suficientes por sí solas para predecir el rendimiento final en una tarea de aprendizaje.
• Diseño de Kernels: Sugiere que la ingeniería de kernels cuánticos debe ir más allá de la fidelidad global. La introducción de localidad y mezcla de escalas ofrece "perillas" de control flexibles para ajustar la concentración del kernel y adaptarlo a la estructura de los datos específicos.
• Futuro: Abre la puerta a estrategias de diseño de parches basadas en datos (data-driven) y a la extensión de estas técnicas a hardware ruidoso (NISQ), donde la mitigación de errores y el costo de los disparos son factores críticos.

En resumen, el trabajo demuestra que aunque las estrategias locales y multiescala son efectivas para preservar la estructura geométrica del kernel frente a la concentración exponencial, su éxito en la mejora de la precisión de clasificación depende de una alineación cuidadosa entre la estructura de similitud preservada y la tarea de aprendizaje específica.