The optimization landscape of peaked-circuit generation

Resumo Técnico: O Panorama de Otimização da Geração de Circuitos de Pico (Peaked-Circuit Generation)

Definição do Problema
O artigo aborda o gargalo de geração em "circuitos de pico" (peaked circuits), uma rota proposta para a vantagem quântica verificável. Circuitos de pico são circuitos quânticos aleatórios que, apesar de sua aparência aleatória, concentram uma fração constante da massa de probabilidade de saída em uma única string de base computacional. Embora verificar tal saída seja eficiente para um verificador clássico que conhece a string alvo, gerar o circuito classicamente é difícil. Aaronson e Zhang (AZ) propuseram uma abordagem variacional: anexar um brickwall treinável de profundidade $n/2$ a um brickwall Haar aleatório de profundidade $n$, então otimizar os parâmetros para maximizar a probabilidade da string zero absoluta. AZ observaram que seu otimizador de gradiente descendente estagnava em um teto dependente do tamanho, o que atribuíram a um platô estéril (barren plateau). Eles deixaram aberta uma dicotomia: ou o otimizador estancou em ótimos locais (implicando que um algoritmo melhor poderia alcançar valores mais altos), ou não existe um método de geração eficiente. Este artigo mapeia o panorama de otimização para resolver essa dicotomia e caracterizar a escala da "pico-amplitude" (peakedness) alcançável.

Metodologia
O estudo emprega um protocolo experimental rigoroso, pré-registrado, usando simulações de estado vetorial sem ruído de circuitos brickwall unidimensionais de contorno aberto.

• Arquitetura do Circuito: O sistema consiste em uma seção aleatória $U_r$ (profundidade $\tau_r = n$) seguida por uma seção treinável $V(\theta)$ (profundidade $\tau_p = n/2$). As portas treináveis são produtos de 15 rotações de Pauli por bloco de dois qubits, resultando em $P = \Theta(n^2)$ parâmetros.
• Protocolo de Otimização: O protocolo primário utiliza o otimizador Adam com um cronograma específico de taxa de aprendizado e 400 passos. O estudo define uma "classe de otimizadores estáveis-locais" (dinâmicas do tipo fluxo de gradiente com tamanhos de passo polinomiais e reinicializações independentes).
• Design Experimental: O autor testou 18 instâncias por tamanho para $n=8$ a $14$, com um "catch-up" pré-registrado para 18 instâncias em $n=16$. Eles utilizaram grandes conjuntos de reinicialização (até 800 reinicializações) para distinguir entre propriedades do panorama e limitações de orçamento do otimizador.
• Análise do Panorama: O artigo analisa a estática do campo de objetivo $\delta(\theta)$, incluindo momentos exatos (até o quarto) via cálculo de Weingarten, estatísticas de gradiente e conectividade usando métodos de corda (string methods) para medir mínimos de caminho entre soluções próximas do ótimo.
• Comparação de Otimizadores: Um bloco pré-registrado comparou Adam contra L-BFGS-B e SGD puro através de diferentes inicializações para testar vantagens específicas do otimizador.

Principais Contribuições e Resultados

1. Rejeição da Lei de Escala de Base Fixa:
   O artigo rejeita a lei de decaimento exponencial fixo ($1.189^{-n}$) proposta por AZ. O autor demonstra que a taxa de decaimento local da pico-amplitude alcançável não é constante, mas torna-se monotonicamente mais íngreme com o tamanho do sistema.

   • A taxa de decaimento aumenta de $\approx 1.16$ por qubit em $n=8$ para $\approx 1.295$ em $n=16$ (para execuções convergidas).
   • Consequentemente, a extrapolação para $n=50$ fornecida por AZ não é sustentada pelos dados nos tamanhos acessíveis. A pico-amplitude alcançável encolhe mais rápido do que estimado anteriormente.

2. Caracterização do Panorama de Otimização:

   • Ausência de Platô Estéril: A média do gradiente e o Hessiano desaparecem identicamente (como esperado para estados Haar-aleatórios), mas a variância do gradiente na inicialização é apenas $O(1)$ maior que o limite Haar. O "platô estéril" não explica o encolhimento da amplitude alcançável; o otimizador explora a estrutura adquirida durante a otimização, não presente na inicialização.
   • Prateleira Conectada, Sem Gap de Sobreposição: A medição direta de conectividade via métodos de corda mostra que soluções próximas do ótimo formam um único componente conectado na "escala de armadilha" (o piso Haar $2^{-n}$). Caminhos entre soluções decorrelacionadas permanecem $10^2$–$10^3$ vezes acima da escala de armadilha. Isso refuta o mecanismo de overlap-gap (agrupamento com sobreposições intermediárias proibidas) como a fonte de dificuldade na escala de armadilha.
   • Corrugação Profunda: Embora conectada, a "prateleira" torna-se cada vez mais corrugada. O mínimo do caminho mediano em relação aos valores finais decai como $\approx 0.871^n$, mais rápido do que qualquer lei de potência fixa. Essa corrugação profunda, em vez de fragmentação, caracteriza a dificuldade.

3. Robustez do Otimizador e Conjectura de Dificuldade:

   • Falha Descendente: O SGD puro, dentro da classe estável-local registrada, falha em atingir a mesma pico-amplitude que o Adam no orçamento fixo, mas isso é atribuído ao "ritmo" (pacing - tamanho do passo) e não ao panorama em si.
   • Excedência Ascendente: Em uma comparação pré-registrada, o L-BFGS-B (um método quase-Newton) alcançou um alcance $3.9 \pm 1.6\%$ maior que o Adam convergido em $n=16$ em três instâncias.
   • Retirada da Conjectura de Dificuldade: Esse excedente aciona um falsificador pré-registrado, levando o autor a retirar sua conjectura de que "nenhum estatístico da classe supera o alcance decrescente". No entanto, a lei de escala permanece: mesmo o alcance do L-BFGS-B encolhe por um fator de $\approx 1.3$ por qubit.

4. Limites Teóricos:

   • Teto do Limite Profundo: O autor prova que, no limite profundo (onde o estado embaralhado é Haar), nenhuma família de sondas com $poly(n)$ parâmetros pode atingir a pico-amplitude esperada além de $poly(n) 2^{-n}$.
   • Profundidade Finita: Em profundidade finita, a pico-amplitude alcançável excede este limite profundo por um fator que cresce com $n$, indicando que o otimizador explora a estrutura de profundidade finita invisível às estatísticas de amplitude de segunda ordem.

Significância e Alegações
O artigo afirma resolver a dicotomia proposta por AZ ao caracterizar o panorama em vez de simplesmente encontrar um otimizador melhor.

• O Obstáculo: A principal barreira para gerar circuitos de pico não é um platô estéril ou um overlap gap (agrupamento), mas um "encolhimento de alcance" em um panorama conectado. A pico-amplitude alcançável decai exponencialmente com uma taxa que se torna mais íngreme com o aumento do número de qubits.
• Implicações para a Vantagem Quântica: A estimativa de $n=50$ para viabilidade experimental derivada por AZ não é sustentada. O decaimento íngreme sugere que gerar circuitos de pico para $n$ grandes será significativamente mais difícil do que se pensava anteriormente, mesmo se um otimizador melhor for encontrado.
• Modéstia das Alegações: O autor afirma explicitamente que, embora tenha retirado a conjectura de que nenhum otimizador da classe pode superar o alcance decrescente, o obstáculo medido (a própria taxa de encolhimento) permanece para todos os otimizadores testados até agora. O artigo não afirma ter encontrado um método que escale eficientemente para $n=50$; em vez disso, fornece uma caracterização negativa precisa do panorama que invalida extrapolações simples e identifica as características geométricas específicas (decaimento íngreme, corrugação profunda) que definem o gargalo de geração.

Em resumo, o artigo estabelece que a geração de circuitos de pico é dificultada por um panorama onde a probabilidade de pico alcançável encolhe mais rápido do que qualquer exponencial fixa conforme o número de qubits aumenta, um fenômeno impulsionado pela corrugação profunda em uma prateleira conectada, em vez de platôs estéreis ou agrupamento de soluções.