DistributedEstimator: Distributed Training of Quantum Neural Networks via Circuit Cutting

Resumen Técnico: DistributedEstimator – Entrenamiento Distribuido de Redes Neuronales Cuánticas mediante el Corte de Circuitos

Planteamiento del Problema
Las cargas de trabajo híbridas cuántico-clásicas, particularmente los Algoritmos Cuánticos Variacionales (VQA) para el Aprendizaje Automático Cuántico (QML), están cada vez más limitadas por las limitaciones del sistema en lugar de por cuestiones puramente algorítmicas. Los circuitos prácticos suelen exceder el ancho, la profundidad o la fiabilidad de los dispositivos de escala intermedia con ruido (NISQ), lo que requiere ciclos de entrenamiento iterativos que necesitan la estimación repetida de valores de esperanza. Si bien el corte de circuitos (o circuit knitting) ofrece un método fundamentado para descomponer circuitos grandes en subcircuitos más pequeños e independientes, el trabajo previo ha caracterizado mayoritariamente su sobrecarga en términos de conteo asintótico de subcircuitos y complejidad de muestreo. Existe una brecha significativa en la comprensión del impacto en los sistemas de extremo a extremo del corte de circuitos en los procesos de entrenamiento impulsados por estimadores de forma iterativa. Específicamente, no está claro cómo se distribuyen las sobrecargas del corte a través de las etapas del proceso, dónde surgen los cuellos de botella bajo ejecución paralela, y si la introducción del corte afecta la dinámica de entrenamiento, la precisión y la robustez del modelo.

Metodología
Los autores proponen DistributedEstimator, un proceso de ejecución de estimador consciente del corte que trata el corte de circuitos como una carga de trabajo distribuida por etapas. El sistema se integra con el stack de aprendizaje automático de Qiskit (usando EstimatorQNN y TorchConnector) para interceptar las consultas del estimador tanto durante las pasadas hacia adelante (forward passes) como durante los cálculos de gradiente (vía la regla de desplazamiento de parámetros o parameter-shift rule).

El proceso instrumenta cuatro fases distintas para cada consulta del estimador:

1. Partición: Descomposición del circuito y el observable en subcircuitos y subobservables basados en un plan de corte.
2. Generación de Subexperimentos: Creación de subexperimentos concretos y coeficientes de reconstrucción.
3. Ejecución Paralela: Despacho de subexperimentos a un grupo de trabajadores (worker pool).
4. Reconstrucción Clásica: Agregación de los resultados medidos para reconstruir el valor de esperanza objetivo.

El estudio emplea un enfoque basado en mediciones utilizando trazas de tiempo de ejecución registradas y resultados de aprendizaje en dos cargas de trabajo de clasificación binaria: Iris y MNIST. La evaluación se centra en:

• Atribución de Sobrecarga: Medición del tiempo dedicado a cada etapa ($T_{part}, T_{gen}, T_{exec}, T_{rec}$).
• Escalabilidad: Análisis de los límites de aceleración (speed-up) a medida que aumenta el número de trabajadores.
• Sensibilidad a los Rezagados (Stragglers): Inyección de retrasos sintéticos para probar la sensibilidad a la latencia de la cola.
• Resultados de Aprendizaje: Evaluación de la precisión de prueba y la robustez frente al ruido Gaussiano y las perturbaciones del Método de Signo de Gradiente Rápido (FGSM) bajo presupuestos de entrenamiento equivalentes.

Una distincción metodológica clave es la amortización de los costos estructurales. La partición y la generación de plantillas de subexperimentos dependen únicamente de la estructura del circuito, no de los parámetros; estos se computan una sola vez y se almacenan en caché, asegurando que las sobrecargas por consulta reflejen únicamente la vinculación de parámetros, la ejecución y la reconstrucción.

Contribuciones Clave

1. Formulación de un Proceso Basado en Mediciones: El artículo establece una visión a nivel de sistemas del corte de circuitos como un proceso distribuido por etapas, instrumentando explícitamente las sobrecargas de corte, ejecución y reconstrucción, e integrándolo en el bucle de entrenamiento de QML.
2. Análisis Empírico de Escalabilidad: A través de registros por etapas, los autores identifican que la reconstrucción clásica se convierte en el cuello de botella dominante, limitando los beneficios del aumento de paralelismo.
3. Análisis de Programación y Rezagados: El estudio evalúa políticas de ejecución (eager, batched, staggered) y demuestra que la sensibilidad a los rezagados está modulada por la estructura del camino crítico; los procesos dominados por la reconstrucción son menos sensibles a los retrasos en la ejecución que aquellos dominados por la ejecución.
4. Evaluación de Aprendizaje de Extremo a Extremo: El trabajo aporta evidencia de que el corte de circuitos preserva la precisión predictiva y la robustez del modelo bajo protocolos de entrenamiento consistentes, distinguiendo las ganancias de rendimiento de los cambios en el comportamiento de optimización.
5. Caracterización de la Barrera Computacional: El documento documenta el crecimiento exponencial de la sobrecarga de reconstrucción ($O(9^c)$ para $c$ cortes basados en CNOT) como una barrera fundamental, que limita el entrenamiento iterativo práctico a un número pequeño de cúbits con los métodos actuales.

Resultados

• Sobrecarga y Cuellos de Botella: La reconstrucción constituye una fracción dominante del tiempo por consulta, alcanzando un mediana del 53% y un percentil 95 del 58% con tres cortes. Esta barrera serial limita la aceleración alcanzable bajo un mayor paralelismo, explicando por qué añadir trabajadores produce rendimientos decrecientes (Ley de Amdahl).
• Límites de Escalabilidad: Las relaciones de aceleración para 16 trabajadores respecto a 1 trabajador son cercanas o inferiores a 1, confirmando que la sobrecarga de reconstrucción domina el camino crítico.
• Sensibilidad a los Rezagados: Las configuraciones dominadas por la reconstrucción muestran una menor sensibilidad relativa a los rezagados en la ejecución, debido a que el tiempo de reconstrucción no se ve afectado por los retrasos de ejecución. Por el contrario, las configuraciones dominadas por la ejecución amplifican la latencia de la cola.
• Precisión y Robustez:
  • Iris: La precisión de prueba se preserva totalmente en todas las configuraciones de corte.
  • MNIST: La precisión se mantiene sin degradación sistemática; algunas configuraciones de corte igualan o superan la línea base sin corte, potencialmente debido a la regularización implícita del ruido del estimador.
  • Robustez: La robustez frente al ruido Gaussiano y las perturbaciones FGSM se preserva, con algunas configuraciones de corte exhibiendo una robustez comparable o mejorada.
• Validación de Hardware: Una validación dirigida en el procesador IBM Quantum ibm_kingston (Heron r2) confirmó que la reconstrucción a partir de resultados medidos físicamente preserva la precisión y la robustez (100% de precisión en el conjunto de prueba). Notablemente, el equilibrio de etapas se invierte en el hardware real: el tiempo de ejecución (incluyendo la cola y la latencia del dispositivo) se convierte en el costo dominante, mientras que la reconstrucción sigue siendo una fracción pequeña del tiempo total. Sin embargo, el crecimiento exponencial de los subexperimentos infla ambas etapas, manteniendo el cuello de botella estructural.

Significancia y Reivindicaciones
El artículo sostiene que la escalabilidad práctica del corte de circuitos para cargas de trabajo de aprendizaje requiere tratar la reconstrucción y la agregación como problemas de sistemas de primera clase. Los autores argumentan que el crecimiento exponencial en el conteo de subexperimentos ($O(9^c)$) representa una barrera computacional fundamental que restringe el entrenamiento iterativo actual a un número pequeño de cúbits.

El estudio concluye que:

1. La reconstrucción es el principal limitador de la escalabilidad en entornos de simulación, lo que requiere estrategias para reducir o solapar esta etapa (por ejemplo, reconstrucción incremental, reducción distribuida).
2. La precisión y la robustez se preservan, validando el corte de circuitos como una estrategia de ejecución a nivel de sistemas viable que no degrada silenciosamente la calidad del modelo.
3. El trabajo futuro debe centrarse en reducir la sobrecarga de reconstrucción mediante métodos aproximados, reducción distribuida y esquemas de corte más eficientes para hacer que el corte sea práctico para cargas de trabajo de QML más grandes y reales.

El artículo no pretende afirmar que el corte de circuitos elimine la necesidad de dispositivos cuánticos más grandes o que resuelva el problema de los llanos áridos (barren plateaus); más bien, proporciona un marco reproducible para comprender los compromisos y cuellos de botella inherentes a la ejecución de procesos de entrenamiento basados en el corte en la actualidad.