🤖 machine learning

A projection-based framework for gradient-free and parallel learning

Este artigo apresenta o PJAX, um framework baseado em JAX que reformula o treinamento de redes neurais como um problema de viabilidade paralelizável e sem gradiente, utilizando operadores de projeção iterativos, oferecendo uma alternativa convincente à otimização convencional baseada em gradiente, com vantagens no tratamento de operações não diferenciáveis e na habilitação de paralelismo massivo.

Autores originais: Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Publicado 2026-04-30

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está tentando resolver um quebra-cabeça massivo e complexo, como um gigantesco quebra-cabeça 3D ou um Cubo Mágico, mas você não conhece a imagem final.

O Jeito Antigo (Aprendizado Baseado em Gradiente)
Atualmente, a maioria dos modelos de IA aprende usando um método chamado "retropropagação". Pense nisso como um caminhante tentando encontrar o fundo de um vale nebuloso (a melhor solução). O caminhante sente a inclinação sob seus pés (o gradiente) e dá um passo ladeira abaixo. Ele continua fazendo isso, passo a passo, até alcançar um ponto baixo.

O Problema: Às vezes, o caminhante fica preso em uma pequena depressão (um mínimo local) que não é o fundo verdadeiro. Às vezes, o caminho é tão íngreme ou plano que o caminhante se perde ou se move muito lentamente. Além disso, para saber qual direção é "para baixo", o caminhante precisa enviar um sinal todo o caminho de volta do fundo do vale até o topo, o que é lento e requer um caminho muito específico e simétrico.

O Novo Jeito (Aprendizado Baseado em Projeção)
Os autores deste artigo propõem uma estratégia completamente diferente. Em vez de tentar encontrar o fundo de um vale, eles tratam o treinamento como um problema de viabilidade.

Imagine que você tem um quarto cheio de paredes, cada uma com uma regra específica.

A Parede A diz: "O bloco vermelho deve estar ao lado do bloco azul."
A Parede B diz: "O bloco verde deve estar acima do bloco vermelho."
A Parede C diz: "O peso total deve ser igual a 50kg."

Seu objetivo não é deslizar ladeira abaixo; é encontrar uma única disposição de blocos onde a regra de cada parede individual seja satisfeita ao mesmo tempo.

Como Funciona: A Metáfora da "Projeção"
Os autores chamam seu método de "Baseado em Projeção". É assim que eles fazem:

Dividir para Conquistar: Eles dividem o quebra-cabeça gigante (a rede neural) em pequenas peças simples chamadas "funções primitivas" (como operações matemáticas simples: somar números, multiplicá-los ou decidir se um número é positivo).
O Ajuste Local: Em vez de olhar para o quebra-cabeça inteiro, eles olham apenas para uma parede (uma regra). Se os blocos não se encaixam na regra daquela parede, eles "projetam" os blocos sobre a parede. Imagine projetar uma luz sobre os blocos; a sombra que eles projetam na parede é a posição "correta" para aquela regra específica.
Poder Paralelo: Esta é a parte mágica. Como cada parede só se importa com seus próprios vizinhos imediatos, você pode corrigir a Parede A, a Parede B e a Parede C todas ao mesmo tempo. Você não precisa esperar que a Parede A termine antes de começar a Parede B. Isso é como ter uma equipe de 100 pessoas consertando partes diferentes de uma casa simultaneamente, em vez de uma pessoa consertar o telhado, depois a cozinha, depois o banheiro, um por um.
Repetir: Eles fazem isso uma e outra vez. Cada vez, eles empurram os blocos para se ajustarem melhor às regras locais. Eventualmente, os blocos se acomodam em uma posição onde satisfazem todas as regras simultaneamente. Essa é a sua IA treinada.

Por Que Isso é Legal (Segundo o Artigo)

Nenhum "Inclinação" Necessária: Você não precisa calcular uma "inclinação" (gradiente). Isso significa que você pode usar regras que são "ásperas" ou quebradas (não diferenciáveis), como um interruptor que está ligado ou desligado. O método antigo luta com isso; este novo método lida com eles facilmente.
Plausibilidade Biológica: No cérebro, os neurônios não enviam um "sinal de erro" global todo o caminho de volta do fim de um pensamento até o início. Eles apenas se ajustam com base no que seus vizinhos imediatos estão fazendo. Este novo método imita esse ajuste local, de vizinho para vizinho.
Velocidade: Como todos trabalham em paralelo, pode ser muito mais rápido em chips de computador modernos (GPUs/TPUs) que são projetados para fazer muitas coisas ao mesmo tempo.

O Trade-off: O Custo de "Memória"
O artigo admite que há uma pegadinha. Para fazer isso, o computador precisa lembrar da posição de cada "aresta" no quebra-cabeça em cada etapa.

Analogia: No método antigo, você apenas lembra da localização atual do caminhante. Neste novo método, você precisa lembrar da posição de cada bloco no quarto e de cada conexão entre eles, para cada pessoa da sua equipe.
Resultado: Isso usa muito mais memória de computador (RAM). Os autores tiveram que reduzir alguns de seus modelos de teste para caber na memória de seu computador, enquanto o método antigo podia lidar com modelos maiores mais facilmente.

Os Resultados
Os autores construíram uma ferramenta de software chamada PJAX (Projection JAX) para testar isso. Eles tentaram em diferentes tipos de quebra-cabeças:

Padrões simples (MLPs)
Reconhecimento de imagem (CNNs)
Previsão de linguagem (RNNs)

Eles descobriram que, embora o "jeito antigo" (usando otimizadores Adam ou SGD) ainda seja o campeão em velocidade bruta e precisão final em muitos casos, este novo jeito "Projeção" funciona surpreendentemente bem. É uma alternativa viável que:

Aprende sem precisar de gradientes.
Lida com regras "ásperas" que confundem outros métodos.
Aprende com muita eficiência em hardware paralelo, especialmente para tarefas como modelagem de linguagem, onde o método antigo luta com "gradientes que desaparecem" (esquecendo o início de uma frase).

Em Resumo
O artigo diz: "Pare de tentar deslizar ladeira abaixo para encontrar a resposta. Em vez disso, trate o problema como um conjunto de regras locais. Corrija cada regra localmente e simultaneamente, e, eventualmente, todo o sistema se encaixará." É uma nova maneira de treinar IA que é mais paralela, mais flexível com diferentes tipos de matemática, mas atualmente requer mais memória.

1. Formulação do Problema

O artigo aborda limitações fundamentais no paradigma dominante de treinamento de aprendizado profundo: otimização baseada em gradiente via retropropagação. Embora altamente eficaz, essa abordagem enfrenta vários desafios críticos:

Requisito de Diferenciabilidade: Exige que todos os componentes da rede e funções de perda sejam (sub) diferenciáveis, excluindo operações não diferenciáveis (por exemplo, quantização, lógica discreta).
Gargalo Sequencial: A passagem de trás para frente é inerentemente sequencial, limitando o paralelismo e aumentando a latência de atualização, especialmente em arquiteturas profundas.
Implausibilidade Biológica: O mecanismo de transporte simétrico de pesos (enviar gradientes de erro de volta através exatamente dos mesmos pesos usados para a propagação direta) é considerado biologicamente irrealista.
Patologias de Otimização: Métodos baseados em gradiente frequentemente lutam com gradientes que desaparecem ou explodem, mínimos locais e pontos de sela.

Os autores propõem uma mudança de paradigma: reformular o treinamento de redes neurais não como um problema de minimização de perda, mas como um problema de viabilidade. Em vez de navegar por uma paisagem de perda, o objetivo é encontrar parâmetros da rede e estados intermediários que satisfaçam simultaneamente uma coleção de restrições locais derivadas da estrutura da rede e de mapeamentos de entrada-saída.

2. Metodologia

A metodologia central baseia-se em algoritmos de projeção iterativa aplicados a um grafo de computação de granularidade fina.

A. Formulação de Viabilidade

O treinamento é definido como encontrar um vetor de estado $z$ (representando todos os valores de arestas no grafo de computação) que reside na interseção de múltiplos conjuntos de restrições $C_v$ :
$\text{Encontrar } z \in \bigcap_{v \in V} C_v$
Onde $V$ representa os nós no grafo de computação. As restrições são definidas localmente para cada tipo de nó:

Nós de Entrada Constante: Enforçam que as arestas de saída carreguem o valor de entrada.
Nós de Parâmetro: Enforçam consenso entre todas as arestas de saída de um parâmetro (garantindo que um único valor de peso seja usado em todos os lugares).
Nós de Função Oculta: Enforçam que a saída de uma aresta seja igual ao resultado da aplicação da função primitiva (por exemplo, ReLU, produto escalar) às suas entradas.
Nós de Alvo/Perda: Enforçam que a saída da rede minimize a perda (ou satisfaça uma restrição de margem) em relação ao alvo.

B. Operadores de Projeção

A solução é encontrada usando algoritmos iterativos como Projeções Alternadas (AP), Projeções Cíclicas (CP) e Douglas-Rachford (DR).

Projeções Locais: Para cada nó, o algoritmo projeta o estado atual sobre o conjunto de restrições definido por aquele nó.
Funções Primitivas: O artigo deriva soluções de forma fechada ou numéricas eficientes para projetar sobre os gráficos de operações elementares (por exemplo, produtos escalares, ReLU de somas, max pooling, quantização).
Não Diferenciabilidade: Como as projeções dependem da minimização de distância em vez de derivadas, o framework lida naturalmente com funções não diferenciáveis (por exemplo, quantização, funções degrau).

C. Paralelização via Bipartição

Uma contribuição teórica chave é o Teorema 2, que aproveita a natureza bipartida dos grafos de computação.

Os nós do grafo podem ser divididos em dois conjuntos disjuntos, $A$ e $B$ , de modo que nenhum dois nós dentro do mesmo conjunto sejam adjacentes.
As projeções para todos os nós no conjunto $A$ podem ser computadas independentemente e em paralelo porque operam em conjuntos disjuntos de variáveis de aresta. O mesmo se aplica ao conjunto $B$ .
Isso permite que toda a etapa de atualização seja totalmente paralelizada através da rede, eliminando a dependência sequencial da retropropagação.

D. O Framework PJAX

Os autores introduzem o PJAX (Projection JAX), um framework de software construído sobre o JAX.

Composicional: Assim como o autodiff compõe derivadas, o PJAX compõe operadores de projeção.
API: Fornece uma API semelhante a NumPy/JAX para definir modelos.
Hardware: Herda a compilação JIT do JAX e o suporte para GPUs/TPUs.
Automação: Constrói automaticamente o grafo de computação e orquestra as etapas de projeção iterativa.

3. Contribuições Principais

Reformulação Teórica: Uma formulação rigorosa do treinamento de redes neurais como um problema de viabilidade em larga escala usando variáveis de aresta e restrições locais, provando que uma solução viável corresponde a um minimizador de risco empírico.
Algoritmos Paralelizáveis: Uma prova de que as atualizações de projeção podem ser totalmente paralelizadas explorando a estrutura bipartida dos grafos de computação, oferecendo uma vantagem distinta sobre a retropropagação sequencial.
Operadores de Projeção: Derivações matemáticas para operadores de projeção em funções primitivas chave (produto escalar, ReLU, max, quantização) e funções de perda (entropia cruzada, perda de margem).
Framework PJAX: O primeiro framework de treinamento geral sem gradiente que suporta arquiteturas arbitrárias (MLPs, CNNs, RNNs) e aceleração de hardware.
Validação Empírica: Experimentos abrangentes demonstrando a viabilidade da abordagem em diversas tarefas e arquiteturas.

4. Resultados Experimentais

Os autores avaliaram o PJAX em benchmarks padrão (MNIST, CIFAR-10, HIGGS, Shakespeare) usando MLPs, CNNs e RNNs, comparando com SGD, Adam, Alinhamento de Feedback (FA) e Forward-Forward (FF).

Desempenho:
- MLPs: Métodos de projeção (especialmente Douglas-Rachford) alcançaram precisão competitiva com SGD, frequentemente com tempos de etapa significativamente mais rápidos (até 10 vezes mais rápidos por etapa em redes rasas).
- RNNs: Métodos de projeção mostraram uma vantagem estrutural ao evitar a Retropropagação através do Tempo (BPTT), contornando problemas de gradientes que desaparecem ou explodem e convergindo mais rápido em termos de etapas do que SGD.
- CNNs: A lacuna de desempenho com métodos baseados em gradiente foi maior, e os tempos de etapa foram mais lentos devido à alta sobrecarga de memória decorrente do compartilhamento de parâmetros (veja abaixo).
Profundidade e Conexões de Salto: Redes profundas sem conexões de salto lutaram com a propagação de informações no treinamento baseado em projeção. No entanto, introduzir conexões de salto (encurtando caminhos das camadas iniciais para a saída) melhorou significativamente o desempenho, validando a necessidade de ajustes arquiteturais neste paradigma.
Eficiência:
- Tempo por Etapa: Métodos de projeção (AP/CP) geralmente tiveram menor tempo por etapa do que SGD devido ao paralelismo massivo, embora o tempo total de relógio para convergência tenha variado.
- Memória: O método requer armazenar variáveis de estado para cada aresta no grafo. Isso leva a uma complexidade de memória $O(|E|)$ , que é maior do que a $O(|V|)$ da retropropagação, especialmente para arquiteturas com compartilhamento pesado de parâmetros (CNNs, RNNs).

5. Significado e Direções Futuras

Plausibilidade Biológica: O método alinha-se melhor com princípios de aprendizado biológico ao usar atualizações locais e evitar a retropropagação global de erro.
Tratamento de Não Diferenciabilidade: Abre a porta para treinar redes com componentes discretos (por exemplo, redes neurais quantizadas, portas lógicas) sem exigir aproximações de gradiente.
Escalabilidade: A natureza paralela das atualizações torna-o altamente adequado para hardware moderno (GPUs/TPUs), potencialmente superando os gargalos sequenciais da retropropagação em redes muito profundas ou largas.
Limitações: A limitação primária é o uso de memória, que escala com o tamanho do lote, comprimento da sequência e compartilhamento de parâmetros.
Trabalho Futuro: Os autores sugerem explorar amortecimento adaptativo, esquemas híbridos (misturando projeções com gradientes), técnicas de economia de memória (estados de aresta de baixo posto) e arquiteturas sob medida para reduzir a interação parâmetro-dados.

Em resumo, este artigo apresenta uma alternativa convincente ao treinamento baseado em gradiente, demonstrando que a busca de viabilidade via projeções paralelas é um paradigma viável, geral e eficiente para aprendizado profundo, particularmente para arquiteturas não diferenciáveis e recorrentes.