Resumen Técnico: Adquisición Activa de Núcleos Cuánticos para la Regresión de Procesos Gaussianos

Planteamiento del Problema

Los métodos de núcleo cuántico ofrecen acceso a espacios de características que se conjetura son intratables clásicamente, pero su despliegue práctico en hardware de corto alcance está limitado por un "presupuesto de disparos" (shots) finito. En la estimación de núcleos cuánticos, cada entrada $K_{ij}$ de la matriz de Gram es una esperanza de Bernoulli estimada mediante un número finito de ejecuciones de circuitos (disparos). El ruido de estimación resultante escala como $\text{Var}(\hat{K}_{ij}) = K_{ij}(1-K_{ij})/s_{ij}$.

Si bien trabajos recientes han demostrado que la asignación de disparos no uniforme basada en la sensibilidad de la tarea mejora el rendimiento en la clasificación de núcleos cuánticos (p. ej., KRR, SVM), no está claro si este enfoque se traduce a la regresión de Procesos Gaussianos (GP). La regresión GP presenta un desafío distinto: a diferencia de la clasificación, que depende del signo del predictor (robusta al escalado), la regresión GP depende de todo el espectro de la matriz inversa del núcleo $(K + \sigma_n^2 I)^{-1}$ para las medias predictivas, varianzas y verosimilitudes marginales. En consecuencia, el ruido del núcleo se amplifica por un factor que escala con el número de condición $1/\sigma_n^4$. Una asignación ingenua impulsada por la sensibilidad, que funciona para la clasificación, corre el riesgo de un fallo catastrófico en la regresión GP si la estimación inicial del núcleo de "calentamiento" (warm-up) es demasiado ruidosa para identificar de forma fiable los pares sensibles.

Metodología: AQKA-GP

Los autores proponen AQKA-GP (Adquisición Activa de Núcleos Cuánticos para la Regresión de Procesos Gaussianos), una extensión del marco de asignación de varianza mínima de tipo Neyman para la regresión de procesos gaussianos. El método opera en tres etapas:

1. Cobertura de Suelo Alto (High-Floor Coverage): Para evitar una concentración catastrófica en estimaciones de sensibilidad ruidosas, el algoritmo reserva una fracción $\rho$ (establecida en 0.5) del presupuesto total $B$ para el muestreo uniforme en todos los pares de núcleos. Esto asegura que cada entrada reciba un número mínimo de disparos, evitando que la matriz de Gram contenga entradas no observadas que por defecto serían un valor previo (0.5), lo cual desestabilizaría la inversión de la matriz.
2. Asignación Ponderada por Sensibilidad: El presupuesto restante se asigna de forma no uniforme basándose en sensibilidades derivadas de nivel de par. Los autores derivan tres sensibilidades de forma cerrada, cada una correspondiente a un objetivo descendente (downstream) diferente:
   • Acoplamiento Predictivo ($|\alpha_i \alpha_j|$): Derivado para minimizar el RMSE de prueba. Es la especialización de rango 1 del peso exacto de Neyman bajo el objetivo de MSE predictivo, donde $\alpha = (K + \sigma_n^2 I)^{-1}y$.
   • Gradiente de Verosimilitud Marginal: Derivado para el aprendizaje de hiperparámetros. La sensibilidad es la derivada parcial exacta de la log-verosimilitud marginal negativa con respecto a $K_{ij}$, dada por $|\frac{1}{2}[A^{-1}]_{ij} - \frac{1}{2}\alpha_i \alpha_j|$.
   • Residuo de Leave-One-Out (LOO): Derivado para la calibración predictiva. La sensibilidad enfatiza los pares donde un extremo tiene un residuo LOO grande y está estrechamente acoplado a sus vecinos a través de $A^{-1}$.
3. Jitter en el Tiempo de Inferencia: Para manejar el mal condicionamiento del posterior cuando $\hat{K}$ contiene ruido de disparo, el método infla el ruido de observación $\sigma_n^2$ mediante un término de jitter calibrado $j \propto \sqrt{n} \cdot \sqrt{\hat{K}(1-\hat{K})/s}$. Esta escala está motivada por los límites de concentración de matrices de tipo Wigner para asegurar que el posterior permanezca estable.

El marco también se extiende a GPs de Puntos de Inducción Dispersos (VFE, SVGP, FITC) y GPs Profundos, donde las sensibilidades se adaptan a las estructuras de acoplamiento de bajo rango específicas de estas aproximaciones.

Contribuciones Clave

1. Derivación de Sensibilidades Específicas para GP: El artículo proporciona tres sensibilidades de nivel de par en forma cerrada para la regresión de procesos gaussianos, yendo más allá de los gradientes específicos de clasificación utilizados en trabajos previos. Estas sensibilidades capturan cómo la incertidumbre del núcleo se propaga a las medias, varianzas y verosimilitudes predictivas.
2. Identificación del Modo de Fallo de "Suelo Alto": Los autores identifican que la regresión GP es excepcionalmente sensible al ruido de "calentamiento" en la estimación de la sensibilidad. Demuestran que un suelo de cobertura uniforme alto ($\rho \approx 0.5$) es necesario para restaurar la robustez, contrastando con los suelos más bajos ($\rho \le 0.2$) suficientes para la clasificación.
3. Justificación Teórica: El artículo establece que las sensibilidades propuestas no son sustitutos arbitrarios, sino que son derivadas exactas o especializaciones de rango 1 de los pesos de Neyman exactos para objetivos de error de estimación específicos (MSE predictivo, verosimilitud marginal, LOO).
4. Validación Empírica: Experimentos extensos demuestran que el asignador ofrece mejoras consistentes en el régimen de presupuesto moderado.

Resultados Experimentales

Los autores evaluaron AQKA-GP en cuatro benchmarks de regresión de UCI y dos configuraciones sintéticas (prior GP denso y datos plantados-dispersos) con $n_{tr}=200$.

• Ganancias de Rendimiento: En el régimen de presupuesto moderado (50–250 disparos por par), AQKA-GP logra una reducción del 10–21% en el RMSE de prueba en comparación con la asignación uniforme. Las ganancias son más pronunciadas en datos densos, donde el decaimiento espectral crea heterogeneidad predictiva incluso con núcleos homogéneos.
• Robustez: La estrategia de suelo alto ($\rho=0.5$) elimina con éxito el fallo catastrófico observado a presupuestos bajos cuando $\rho$ es pequeño.
• Tareas Descendentes: Las ganancias se transfieren a:
  • Cuadratura Bayesiana: Reducción del 37% en el error de la integral.
  • Regresión Heterocedástica: Mejora del 19–29% en el RMSE.
  • Aprendizaje de Hiperparámetros: Reducción del 65% en la brecha hacia el ancho de banda real del núcleo.
  • Cokriging Multivariante: Mejora del 4%.
• Núcleos Cuánticos:
  • En núcleos cuánticos genuinos ZZ y Pauli-Z con datos de naturaleza cuántica, el método produce mejoras de RMSE del 13–15% a presupuestos bajos ($p < 0.05$).
  • En características de UCI embebidas en núcleos ZZ, la ganancia desaparece. Los autores atribuyen esto al "régimen de concentración exponencial", donde los valores del núcleo se agrupan alrededor de una media fija, eliminando la heterogeneidad necesaria para que la asignación de disparos la explote.
• GPs Dispersos: El método se extiende a GPs VFE dispersos, cerrando la brecha con el suelo del oráculo en aproximadamente un 40%, aunque las ganancias absolutas son menores debido al efecto de suavizado de la aproximación dispersa.

Significancia y Reivindicaciones

El artículo afirma que AQKA-GP extiende con éxito los principios de la adquisición activa de núcleos cuánticos de la clasificación a la configuración más exigente de la regresión. Su significancia radica en:

• Abordar la Amplificación de la Inversa: Considera explícitamente el hecho de que la regresión GP amplifica el ruido del núcleo de forma más severa que la clasificación debido a la dependencia de todo el espectro de la matriz inversa.
• Proveer un Protocolo Robusto: Establece que un suelo de cobertura uniforme alto es una condición necesaria para una regresión de procesos gaussianos estable bajo ruido de disparo, un requisito no presente en la clasificación.
• Optimización Específica de la Tarea: Demuestra que diferentes tareas descendentes (predicción vs. estimación de verosimilitud) requieren métricas de sensibilidad distintas y con base teórica.

Los autores mantienen la modestia respecto al alcance de estas ganancias, señalando que el método es más efectivo en regímenes donde el núcleo exhibe suficiente heterogeneidad (es decir, fuera del régimen de concentración exponencial). Declaran explícitamente que el método no mejora mágicamente las tareas donde la combinación de datos y el mapa de características subyacente carece de la estructura necesaria (como se vio en el estudio UCI-ZZ) y que la constante de jitter específica es calibrada empíricamente en lugar de derivada teóricamente.