The optimization landscape of peaked-circuit generation

Resumen Técnico: El Paisaje de Optimización de la Generación de Circuitos con Picos (Peaked-Circuits)

Planteamiento del Problema
El artículo aborda el cuello de botella en la generación de "circuitos con picos" (peaked circuits), una ruta propuesta hacia la ventaja cuántica verificable. Los circuitos con picos son circuitos cuánticos aleatorios que, a pesar de su apariencia aleatoria, concentran una fracción constante de su masa de probabilidad de salida en una única cadena de la base computacional. Si bien verificar tal salida es eficiente para un verificador clásico que conoce la cadena objetivo, generar el circuito clásicamente es difícil. Aaronson y Zhang (AZ) propusieron un enfoque variacional: añadir un bloque de pared de ladrillos (brickwall) entrenable de profundidad $n/2$ a un brickwall de Haar aleatorio de profundidad $n$, optimizando luego los parámetros para maximizar la probabilidad de la cadena de ceros. AZ observaron que su optimizador de descenso de gradiente se estancaba en un techo dependiente del tamaño, lo que atribuyeron a una meseta estéril (barren plateau). Dejaron abierta una dicotomía: o bien el optimizador se estancaba en óptimos locales (lo que implicaría que un mejor algoritmo podría alcanzar un nivel superior), o bien no existe un método de generación eficiente. Este artículo mapea el paisaje de optimización para resolver esta dicotomía y caracterizar la escala de la capacidad de pico (peakedness) alcanzable.

Metodología
El estudio emplea un protocolo experimental riguroso y prerregistrado utilizando simulaciones de estado vectorial sin ruido de circuitos de pared de ladrillos unidimensionales con fronteras abiertas.

• Arquitectura del Circuito: El sistema consiste en una sección aleatoria $U_r$ (profundidad $\tau_r = n$) seguida de una sección entrenable $V(\theta)$ (profundidad $\tau_p = n/2$). Las puertas entrenables son productos de 15 rotaciones de Pauli por cada bloque de dos cúbits, lo que produce $P = \Theta(n^2)$ parámetros.
• Protocolo de Optimización: El protocolo principal utiliza el optimizador Adam con un esquema específico de tasa de aprendizaje y 400 pasos. El estudio define una "clase de optimizadores estable-local" (dinámicas de tipo flujo de gradiente con tamaños de paso polinómicos y reinicios independientes).
• Diseño Experimental: El autor probó 18 instancias por tamaño para $n=8$ a $14$, con un "ajuste de compensación" (catch-up) registrado a 18 instancias para $n=16$. Utilizó conjuntos de reinicios masivos (hasta 800 reinicios) para distinguir entre las propiedades del paisaje y las limitaciones del presupuesto del optimizador.
• Análisis del Paisaje: El artículo analiza la estática del campo de la función objetivo $\delta(\theta)$, incluyendo momentos exactos (hasta el cuarto) mediante el cálculo de Weingarten, estadísticas de gradiente y conectividad utilizando métodos de cuerda (string methods) para medir los mínimos de trayectoria entre soluciones casi óptimas.
• Comparación de Optimizadores: Un bloque prerregistrado comparó Adam contra L-BFGS-B y SGD simple a través de diferentes inicializaciones para probar ventajas específicas del optimizador.

Contribuciones Clave y Resultados

1. Rechazo de la Ley de Escala de Base Fija:
   El artículo rechaza la ley de decaimiento exponencial fijo ($1.189^{-n}$) propuesta por AZ. El autor demuestra que la tasa de decaimiento local de la capacidad de pico alcanzable no es constante, sino que se vuelve monótonamente más pronunciada con el tamaño del sistema.

• La tasa de decaimiento aumenta de $\approx 1.16$ por cúbit en $n=8$ a $\approx 1.295$ en $n=16$ (para ejecuciones convergidas).
• En consecuencia, la extrapolación a $n=50$ proporcionada por AZ no está respaldada por los datos en los tamaños accesibles. La capacidad de pico alcanzable se reduce más rápido de lo estimado previamente.

2. Caracterización del Paisaje de Optimización:

• Sin Meseta Estéril (Barren Plateau): La media del gradiente y la Hessiana se anulan idénticamente (como se espera para estados de Haar), pero la varianza del gradiente en la inicialización es solo $O(1)$ mayor que el límite de Haar. La "meseta estéril" no explica el estancamiento del alcance; el optimizador explota la estructura adquirida durante la optimización, no la presente en la inicialización.
• Estante Conectado, Sin Brecha de Solapamiento (Overlap Gap): La medición directa de la conectividad mediante métodos de cuerda muestra que las soluciones casi óptimas forman un único componente conectado en la "escala de trampa" (el suelo de Haar $2^{-n}$). Las trayectorias entre soluciones decorrelacionadas se mantienen entre $10^2$ y $10^3$ veces por encima de la escala de trampa. Esto refuta el mecanismo de brecha de solapamiento (agrupamiento con solapamientos intermedios prohibidos) como la fuente de dificultad en la escala de trampa.
• Corrugación Profunda: Aunque están conectados, el "estante" se vuelve cada vez más corrugado. El mínimo de la trayectoria mediana relativo a los valores de los extremos decae como $\approx 0.871^n$, más rápido que cualquier ley de potencia fija. Esta profundización de la corrugación, en lugar de la fragmentación, es lo que caracteriza la dificultad.

3. Robustez del Optimizador y Conjetura de Dificultad:

• Fallo Descendente: El SGD simple, dentro de la clase estable-local registrada, no logra alcanzar la misma capacidad de pico que Adam con el presupuesto fijo, pero esto se atribuye al "ritmo" (tamaño del paso) y no al paisaje en sí.
• Excedencia Ascendente: En una comparación prerregistrada, L-BFGS-B (un método de cuasi-Newton) logró un alcance $3.9 \pm 1.6\%$ mayor que el Adam convergido en $n=16$ en tres instancias.
• Retiro de la Conjetura de Dificultad: Esta excedencia activa un falsificador prerregistrado, lo que lleva al autor a retirar su conjetura de que "ningún estadístico de la clase supera el alcance decreciente". Sin embargo, la ley de escala permanece: incluso el alcance de L-BFGS-B se reduce por un factor de $\approx 1.3$ por cúbit.

4. Límites Teóricos:

• Techo del Límite Profundo: El autor demuestra que en el límite profundo (donde el estado mezclado es Haar), ninguna familia de sondas con $poly(n)$ parámetros puede lograr una capacidad de pico esperada más allá de $poly(n) 2^{-n}$.
• Profundidad Finita: A profundidad finita, la capacidad de pico alcanzable supera este límite profundo por un factor que crece con $n$, lo que indica que el optimizador explota la estructura de profundidad finita que es invisible para las estadísticas de amplitud de segundo orden.

Significancia y Reivindicaciones
El artículo afirma resolver la dicotomía planteada por AZ caracterizando el paisaje en lugar de simplemente encontrar un mejor optimizador.

• La Obstrucción: La barrera principal para generar circuitos con picos no es una meseta estéril ni una brecha de solapamiento (agrupamiento), sino un "alcance decreciente" en un paisaje conectado. La capacidad de pico alcanzable decae exponencialmente con una tasa que se vuelve más pronunciada con el tamaño del sistema.
• Implicaciones para la Ventaja Cuántica: La estimación de $n=50$ para la viabilidad experimental derivada por AZ no está respaldada. La tasa de decaimiento que se vuelve más pronunciada sugiere que generar circuitos con picos para un $n$ grande será significativamente más difícil de lo que se pensaba anteriormente, incluso si se encuentra un mejor optimizador.
• Modestia de las Reivindicaciones: El autor establece explícitamente que, si bien ha retirado la conjetura de que ningún optimizador de la clase puede superar el alcance decreciente, la obstrucción medida (la tasa de reducción misma) se mantiene para todos los optimizadores probados hasta ahora. El artículo no pretende haber encontrado un método que escale eficientemente a $n=50$; más bien, proporciona una caracterización negativa precisa del paisaje que descarta extrapolaciones simples e identifica las características geométricas específicas (decaimiento pronunciado, corrugación profunda) que definen el cuello de botella de la generación.

En resumen, el artículo establece que la generación de circuitos con picos se ve obstaculizada por un paisaje donde la capacidad de pico alcanzable disminuye más rápido que cualquier exponencial fijo a medida que aumenta el número de cúbits, un fenómeno impulsado por una corrugación profunda en un estante conectado, en lugar de por mesetas estériles o agrupamiento de soluciones.