Hybridizing Equilibrium Propagation with Ising Machines for Efficient Energy-Based Learning

Resumo Técnico: Hibridização da Propagação de Equilíbrio com Máquinas de Ising para Aprendizado Baseado em Energia Eficiente

Definição do Problema
O avanço rápido das redes neurais profundas (DNNs) tem sido limitado pelo alto consumo de energia e pelos requisitos de tempo do treinamento convencional baseado em GPUs. Embora os solvers de hardware físico (ex: máquinas de Ising) ofereçam um caminho para a computação de baixo consumo energético, eles são frequentemente pré-treinados via retropropagação (BP) em eletrônicos externos, o que os torna vulneráveis ao ruído de hardware e imperfeições de fabricação. Isso exige métodos de treinamento fisicamente fundamentados, onde o aprendizado ocorre diretamente dentro da dinâmica física.

A Propagação de Equilíbrio (EP) é um proeminente algoritmo de aprendizado baseado em energia que unifica treinamento e inferência por meio de regras de aprendizado locais. No entanto, a EP padrão baseia-se em redes de Hopfield, que são governadas por dinâmicas dissipativas não-Hamiltonianas ($\dot{x} = -\nabla E(x)$). Esta formulação leva à contração do espaço de fase, fazendo com que o sistema converja frequentemente para mínimos de energia locais em vez do ótimo global, o que compromete a eficácia do treinamento. Além disso, o mapeamento direto de parâmetros de redes multicamadas para sistemas de spins em larga escala enfrenta problemas de escalabilidade, incluindo tempos de convergência prolongados.

Metodologia
Os autores propõem uma estrutura de treinamento híbrida denominada cSB-EP (Propagação de Equilíbrio de Bifurcação Simulada Contínua). Esta abordagem integra as regras de aprendizado locais da EP com uma rota física para o equilíbrio inspirada na dinâmica de Ising.

1. Dinâmica de Espaço de Fase Estendido: Em vez da relaxação puramente dissipativa das redes de Hopfield padrão, os autores substituem a dinâmica por um sistema de Bifurcação Simulada contínua (cSB) derivado de um framework Hamiltoniano. Este sistema introduz variáveis conjugadas (momento) aos estados dos neurônios.

   • A dinâmica é governada por equações diferenciais acopladas: $\dot{s}_{yi} = -s_i - \gamma s_{yi} + \rho(\sum J_{ij}s_j)$ e $\dot{s}_i = s_{yi}$, onde $s_{yi}$ atua como uma coordenada conjugada fornecendo momento inercial.
   • A função de ativação $\rho(x) = \min(\max(x, 0), 1)$ substitui barreiras de potencial inelásticas para acelerar a computação, enquanto um termo de amortecimento $\gamma$ garante a convergência.

2. Mecanismo de Ação: A introdução da coordenada conjugada permite que o sistema se mova temporariamente para regiões de maior energia potencial. Este momento inercial permite que a rede supere mínimos locais rasos, uma capacidade ausente em sistemas dissipativos não-Hamiltonianos onde a energia diminui estritamente de forma monotônica. A análise teórica baseada no princípio de Freidlin-Wentzell sugere que o acoplamento fraco reduz as barreiras de energia efetivas, aumentando exponencialmente a taxa de transição para fora dos ótimos locais.

3. Arquitetura de Treinamento: O framework retém a regra de aprendizado de duas fases da EP:

   • Fase Livre (Free Phase): A rede evolui para um estado estável sob entrada de dados.
   • Fase de Perturbação (Nudge Phase): Uma perturbação controlada pelo parâmetro $\beta$ é aplicada à camada de saída para conduzir o sistema em direção ao estado alvo.
   • Implementação: O algoritmo utiliza uma configuração híbrida CPU/GPU. O processamento de dados e as atualizações de parâmetros ocorrem na CPU, enquanto a busca pelo estado fundamental (convergência dos estados dos neurônios), computacionalmente intensiva, é acelerada na GPU usando o algoritmo cSB.

Principais Contribuições

• Dinâmica Inovadora: O artigo introduz uma mudança da relaxação de Hopfield dissipativa para a dinâmica Hamiltoniana de espaço de fase estendido dentro do framework de EP, mitigando efetivamente o problema dos mínimos locais causado pela contração do espaço de fase.
• Bifurcação Simulada Contínua (cSB): Os autores adaptam a máquina de Bifurcação Simulada, originalmente projetada para sistemas de spin binários, em um sistema dinâmico contínuo adequado para otimização de redes neurais com funções de ativação específicas.
• Escalabilidade: O framework é estendido com sucesso de redes totalmente conectadas simples para redes de Hopfield convolucionais profundas (CNNs), demonstrando compatibilidade com arquiteturas complexas.

Resultos
Experimentos foram conduzidos nos conjuntos de dados MNIST, Fashion-MNIST e CIFAR-10:

• Convergência e Energia: O cSB-EP alcança distribuições de energia efetiva mais baixas e convergência mais rápida para estados estáveis em comparação com a EP convencional. A energia média da rede desloca-se para valores menores mais rapidamente durante o treinamento.
• Acurácia: No MNIST, Fashion-MNIST e CIFAR-10, o cSB-EP alcança taxas de erro de teste comparáveis à retropropagação (BP) e superiores às variantes existentes de EP (ex: cEP). Por exemplo, no CIFAR-10, o cSB-EP supera a EP convencional e aproxima-se do desempenho da BP.
• Eficiência: O método demonstra uma redução significativa no número de iterações necessárias para a busca do estado fundamental. Comparado a algoritmos de EP existentes, o cSB-EP alcança uma aceleração computacional de aproximadamente 3$\times$, mantendo uma acurácia comparável.
• Robustez: O framework exibe robustez aprimorada ao ruído. Sob condições ruidosas (simulando imperfeições de hardware analógico ou optoeletrônico), o cSB-EP mantém uma acurácia de classificação superior à da EP padrão. A dinâmica inercial ajuda o sistema a escapar de ótimos locais mesmo quando perturbado pelo ruído, desde que a intensidade do ruído não seja excessiva.

Significância e Alegações
Os autores afirmam que o cSB-EP representa mais do que uma mera aplicação de máquinas de Ising em redes neurais; ele estabelece um novo paradigma de treinamento inspirado pela dinâmica de máquinas de Ising. Ao alterar a rota física para o equilíbrio enquanto preserva as regras de aprendizado locais, o framework oferece um caminho viável para o aprendizado baseado em energia eficiente, escalável e compatível com hardware.

O estudo sugere que esta abordagem é particularmente bem adequada para implantação em plataformas físicas, tais como sistemas ópticos, sistemas optoeletrônicos e osciladores eletrônicos. Ao abordar as limitações de convergência e robustez ao ruído dos métodos tradicionais de treinamento físico, o cSB-EP visa facilitar a implementação de IA de baixo consumo em dispositivos de computação de borda (edge computing) e IoT, indo além da dependência de modelos pré-treinados gerados pela retropropagação de alto consumo energético.