Nonlinear unitary circuits for photonic neural networks

Resumo Técnico: Circuitos Unitários Não Lineares para Redes Neurais Fotônicas

Definição do Problema
Embora o hardware fotônico ofereça um potencial significativo para aceleração de aprendizado profundo energético e ultrarrápido, um gargalo crítico permanece na obtenção de expressividade não linear. As abordagens fotônicas existentes tipicamente separam os cálculos de matrizes ópticas lineares das ativações não lineares, dependendo de conversão eletro-óptica, materiais codificados por sinais ou interações luz-matéria que frequentemente exigem processamento substancial de sinais eletrônicos. Métodos que alteram a intensidade da luz para induzir não linearidade (por exemplo, absorção saturável) introduzem custos de hardware, como perda de sinal e gradientes evanescentes durante o treinamento. Os autores identificam a necessidade de uma arquitetura fotônica que integre expressividade linear e não linear dentro de uma estrutura de preservação de norma para evitar esses inconvenientes, ao mesmo tempo em que atenda ao padrão de redes neurais profundas (DNNs) implementadas via software.

Metodologia
O artigo propõe o conceito de circuitos Unitários Não Lineares (NU) que utilizam a Modulação de Fase Autoinduzida (SPM) via efeito Kerr óptico para alcançar mapeamentos de preservação de norma com produtos internos não conservativos. A metodologia é estruturada da seguinte forma:

1. Design da Unidade NU(1): O bloco fundamental é um ressonador fotônico integrado acoplado lateralmente a um guia de onda. Esta unidade alcança uma operação do grupo $U(1)$ (transmissão perfeita com deslocamento de fase). A não linearidade é introduzida perturbando a frequência de ressonância ($\omega_0$) através de dois mecanismos:

   • Deslocamento Linear ($\Delta\omega_L$): Ajustável via deslocadores de fase eletro-ópticos ou termo-ópticos para programabilidade.
   • Deslocamento Não Linear ($\Delta\omega_{NL}$): Derivado de SPM, onde a ressonância se desloca proporcionalmente à intensidade da luz incidente ($\Delta\omega_{NL} = -\alpha|\mu|^2$).
     O deslocamento de fase resultante $\xi$ torna-se uma função não linear da intensidade de entrada $|\psi_+|^2$ e do deslocamento linear $\Delta\omega_L$, operando sem histerese sob condições específicas de estado estacionário.

2. Construção da Porta NU(2): Para criar uma porta funcional, os autores constrom um Interferômetro Mach-Zehnder (MZI) com uma unidade NU(1) em cada braço. Esta configuração executa uma operação de preservação de norma $U = R_z(\Delta\xi)R_x(-\pi/2)$, onde o ângulo de rotação $\Delta\xi$ depende do estado de entrada. Isso permite que a porta execute operações unitárias não lineares onde os produtos internos não são conservados entre diferentes estados de entrada, uma característica fundamental para a expressividade do aprendizado profundo.

3. Montagem e Treinamento do Circuito: Circuitos NU profundos são construídos através do cascateamento de portas NU(2) (seguindo os designs de Reck ou Clements). Os autores avaliam estes circuitos usando aprendizado neuroevolutivo combinado com simulated annealing para abordar mínimos locais em problemas de otimização não convexos. Os parâmetros de treinamento incluem deslocamentos lineares contínuos e variáveis binárias.

Principais Contribuições

• Estrutura Conceitual: Introdução de circuitos "Unitários Não Lineares" que unificam a expressividade linear e não linear dentro de uma arquitetura fotônica compacta e de preservação de norma.
• Design de Hardware: Proposta de um bloco de construção fotônico integrado específico (unidade NU(1)) e uma porta (NU(2)) que aproveitam a SPM para não linearidade programável sem exigir modulação de intensidade com perda ou loops de feedback eletrônico.
• Validação Teórica: Demonstração de que circuitos NU profundos exibem crescimento exponencial no comprimento da trajetória (complexidade) e cobertura quase completa do espaço de saída conforme a profundidade do circuito aumenta. Estas métricas são essenciais para a expressividade necessária no aprendizado profundo.
• Verificação de Desempenho: Regressão bem-sucedida de uma função Rastrigin 2D não convexa usando uma DNN NU profunda, validando a capacidade do hardware para resolver problemas avançados.

Resultados

• Métricas de Expressividade: Simulações numéricas mostram que, enquanto circuitos unitários lineares preservam a geometria das trajetórias de entrada, circuitos não lineares introduzem uma complexidade substancial. O comprimento da trajetória ($\mathcal{E}$) na esfera de Bloch cresce exponencialmente com a profundidade do circuito ($M$), uma característica única de DNNs.
• Cobertura: Apesar da introdução de não linearidade, que pode causar a concentração de estados, os circuitos NU profundos alcançam uma cobertura quase completa do espaço de saída (entropia normalizada $\mathcal{C} \approx 1$) para profundidades $M > 7$, comparável a circuitos universais lineares.
• Tarefa de Regressão: Na regressão de uma função não convexa, circuitos NU mais profundos demonstraram desempenho superior (menor erro quadrático médio) em comparação com os mais rasos. As redes treinadas aproximaram com sucesso a função alvo, enquanto as redes não treinadas falharam em fazê-lo, confirmando que a arquitetura suporta o aprendizado eficaz.

Significância e Alegações
Os autores afirmam que este trabalho pavimenta o caminho para redes neurais fotônicas com inferência altamente expressiva e treinamento estável. Ao aproveitar operações de preservação de norma, a plataforma proposta herda as vantagens das redes neurais unitárias, especificamente a mitigação dos problemas de explosão e desaparecimento de gradiente comuns no aprendizado profundo. A integração da expressividade linear e não linear em uma arquitetura compacta e de alta eficiência energética aborda um desafio primário no aprendizado profundo fotônico. O artigo posiciona esta abordagem como um candidato promissor para redes neurais de ondas tanto clássicas quanto quânticas, observando que trabalhos futuros abordarão perdas intrínsecas, eficiência de treinamento e o potencial de uso de histerese para funções de memória.