🤖 machine learning

A projection-based framework for gradient-free and parallel learning

Questo articolo introduce PJAX, un framework basato su JAX che riformula l'addestramento delle reti neurali come un problema di fattibilità parallelizzabile e privo di gradienti, utilizzando operatori di proiezione iterativi, offrendo un'alternativa convincente all'ottimizzazione convenzionale basata sui gradienti con vantaggi nella gestione di operazioni non differenziabili e nell'abilitazione di un massiccio parallelismo.

Autori originali: Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Pubblicato 2026-04-30

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di cercare di risolvere un puzzle massiccio e complesso, come un gigantesco puzzle 3D o un Cubo di Rubik, ma senza conoscere l'immagine finale.

Il Vecchio Modo (Apprendimento Basato sul Gradiente)
Attualmente, la maggior parte dei modelli di intelligenza artificiale apprende utilizzando un metodo chiamato "backpropagation". Pensa a questo come a un escursionista che cerca di trovare il fondo di una valle avvolta dalla nebbia (la soluzione migliore). L'escursionista sente la pendenza sotto i piedi (il gradiente) e fa un passo in discesa. Continua a farlo, passo dopo passo, fino a raggiungere un punto basso.

Il Problema: A volte l'escursionista rimane bloccato in una piccola depressione (un minimo locale) che non è il vero fondo. A volte il sentiero è così ripido o piatto che l'escursionista si perde o si muove troppo lentamente. Inoltre, per sapere quale direzione è "in basso", l'escursionista deve inviare un segnale tutto il percorso di ritorno dal fondo della valle fino alla cima, il che è lento e richiede un percorso molto specifico e simmetrico.

Il Nuovo Modo (Apprendimento Basato sulla Proiezione)
Gli autori di questo articolo propongono una strategia completamente diversa. Invece di cercare di trovare il fondo di una valle, trattano l'addestramento come un problema di fattibilità.

Immagina di avere una stanza piena di muri, ognuno con una regola specifica.

Il Muro A dice: "Il blocco rosso deve essere accanto al blocco blu."
Il Muro B dice: "Il blocco verde deve essere sopra il blocco rosso."
Il Muro C dice: "Il peso totale deve essere uguale a 50 kg."

Il tuo obiettivo non è scivolare giù da una collina; è trovare una singola disposizione dei blocchi in cui ogni singola regola del muro sia soddisfatta contemporaneamente.

Come Funziona: La Metafora della "Proiezione"
Gli autori chiamano il loro metodo "Basato sulla Proiezione". Ecco come lo fanno:

Scomponi: Scompongono il gigantesco puzzle (la rete neurale) in piccoli pezzi semplici chiamati "funzioni primitive" (come semplici operazioni matematiche: sommare numeri, moltiplicarli o decidere se un numero è positivo).
La Correzione Locale: Invece di guardare l'intero puzzle, guardano solo un muro (una regola). Se i blocchi non rispettano la regola di quel muro, "proiettano" i blocchi sul muro. Immagina di proiettare una luce sui blocchi; l'ombra che essi proiettano sul muro è la posizione "corretta" per quella specifica regola.
Potenza Parallela: Questa è la parte magica. Poiché ogni muro si preoccupa solo dei suoi immediati vicini, puoi correggere il Muro A, il Muro B e il Muro C tutti allo stesso tempo. Non devi aspettare che il Muro A finisca prima di iniziare il Muro B. È come avere un team di 100 persone che riparano parti diverse di una casa simultaneamente, invece di una sola persona che ripara il tetto, poi la cucina, poi il bagno, uno alla volta.
Ripeti: Lo fanno ripetutamente. Ogni volta, spingono i blocchi per adattarsi meglio alle regole locali. Alla fine, i blocchi si assestano in una posizione in cui soddisfano tutte le regole simultaneamente. Questa è la tua intelligenza artificiale addestrata.

Perché è Geniale (Secondo l'Articolo)

Nessuna "Pendenza" Necessaria: Non è necessario calcolare una "pendenza" (gradiente). Questo significa che puoi usare regole che sono "bitorzolute" o interrotte (non differenziabili), come un interruttore che è o ACCESO o SPENTO. Il vecchio metodo fatica con queste; questo nuovo metodo le gestisce facilmente.
Plausibilità Biologica: Nel cervello, i neuroni non inviano un "segnale di errore" globale tutto il percorso di ritorno dalla fine di un pensiero all'inizio. Si adattano semplicemente in base a ciò che fanno i loro immediati vicini. Questo nuovo metodo imita quell'adattamento locale, da vicino a vicino.
Velocità: Poiché tutti lavorano in parallelo, può essere molto più veloce sui moderni chip informatici (GPU/TPU) progettati per fare molte cose contemporaneamente.

Il Compromesso: Il Costo della "Memoria"
L'articolo ammette che c'è un trucco. Per fare questo, il computer deve ricordare la posizione di ogni singolo "bordo" nel puzzle a ogni passo.

Analogia: Nel vecchio metodo, ricordi solo la posizione attuale dell'escursionista. In questo nuovo metodo, devi ricordare la posizione di ogni singolo blocco nella stanza e ogni singola connessione tra di essi, per ogni singola persona del tuo team.
Risultato: Questo utilizza molta più memoria del computer (RAM). Gli autori hanno dovuto ridurre alcune delle loro reti di test per adattarle alla memoria del loro computer, mentre il vecchio metodo poteva gestire modelli più grandi più facilmente.

I Risultati
Gli autori hanno creato uno strumento software chiamato PJAX (Projection JAX) per testare questo. L'hanno provato su diversi tipi di puzzle:

Schemi semplici (MLP)
Riconoscimento di immagini (CNN)
Previsione del linguaggio (RNN)

Hanno scoperto che, mentre il "vecchio modo" (usando ottimizzatori Adam o SGD) è ancora il campione per velocità pura e accuratezza finale in molti casi, questo nuovo modo "di Proiezione" funziona sorprendentemente bene. È un'alternativa valida che:

Impara senza bisogno di gradienti.
Gestisce regole "bitorzolute" che confondono altri metodi.
Impara in modo molto efficiente sull'hardware parallelo, specialmente per compiti come la modellazione linguistica dove il vecchio metodo fatica con i "gradienti che svaniscono" (dimenticare l'inizio di una frase).

In Sintesi
L'articolo dice: "Smetti di cercare di scivolare giù da una collina per trovare la risposta. Invece, tratta il problema come un insieme di regole locali. Correggi ogni regola localmente e simultaneamente, e alla fine, l'intero sistema si assesterà al suo posto". È un nuovo modo per addestrare l'intelligenza artificiale che è più parallelo, più flessibile con diversi tipi di matematica, ma attualmente richiede più memoria.

1. Enunciato del Problema

Il paper affronta le limitazioni fondamentali del paradigma dominante nell'addestramento del deep learning: l'ottimizzazione basata sui gradienti tramite backpropagation. Sebbene altamente efficace, questo approccio presenta diverse sfide critiche:

Requisito di Differenziabilità: Richiede che tutti i componenti della rete e le funzioni di perdita siano (sotto)differenziabili, escludendo operazioni non differenziabili (ad esempio, quantizzazione, logica discreta).
Collo di Bottiglia Sequenziale: Il passaggio inverso è intrinsecamente sequenziale, limitando il parallelismo e aumentando la latenza di aggiornamento, specialmente nelle architetture profonde.
Implausibilità Biologica: Il meccanismo del trasporto simmetrico dei pesi (invio dei gradienti di errore attraverso esattamente gli stessi pesi utilizzati per la propagazione in avanti) è considerato biologicamente irrealistico.
Patologie di Ottimizzazione: I metodi basati sui gradienti spesso faticano con gradienti che svaniscono o esplodono, minimi locali e punti di sella.

Gli autori propongono un cambio di paradigma: riformulare l'addestramento delle reti neurali non come un problema di minimizzazione della perdita, ma come un problema di fattibilità. Invece di navigare in un paesaggio di perdita, l'obiettivo è trovare parametri di rete e stati intermedi che soddisfino simultaneamente una raccolta di vincoli locali derivati dalla struttura della rete e dalle mappature input-output.

2. Metodologia

La metodologia di base si basa su algoritmi di proiezione iterativa applicati a un grafo di calcolo a grana fine.

A. Formulazione di Fattibilità

L'addestramento è definito come la ricerca di un vettore di stato $z$ (che rappresenta tutti i valori degli archi nel grafo di calcolo) che giace nell'intersezione di molteplici insiemi di vincoli $C_v$ :
$\text{Trovare } z \in \bigcap_{v \in V} C_v$
Dove $V$ rappresenta i nodi nel grafo di calcolo. I vincoli sono definiti localmente per ogni tipo di nodo:

Nodi di Input Costante: Impongono che gli archi in uscita trasportino il valore di input.
Nodi Parametrici: Impongono il consenso tra tutti gli archi in uscita da un parametro (assicurando che un singolo valore di peso sia utilizzato ovunque).
Nodi di Funzione Nascosta: Impongono che l'uscita di un arco sia uguale al risultato dell'applicazione della funzione primitiva (ad esempio, ReLU, prodotto scalare) ai suoi input.
Nodi Target/Perdita: Impongono che l'output della rete minimizzi la perdita (o soddisfi un vincolo di margine) rispetto al target.

B. Operatori di Proiezione

La soluzione è trovata utilizzando algoritmi iterativi come Proiezioni Alternate (AP), Proiezioni Cicliche (CP) e Douglas-Rachford (DR).

Proiezioni Locali: Per ogni nodo, l'algoritmo proietta lo stato corrente sull'insieme di vincoli definito da quel nodo.
Funzioni Primitiva: Il paper deriva soluzioni in forma chiusa o numeriche efficienti per la proiezione sui grafi di operazioni elementari (ad esempio, prodotti scalari, ReLU di somme, max pooling, quantizzazione).
Non Differenziabilità: Poiché le proiezioni si basano sulla minimizzazione della distanza piuttosto che sulle derivate, il framework gestisce naturalmente funzioni non differenziabili (ad esempio, quantizzazione, funzioni gradino).

C. Parallelizzazione tramite Bipartizione

Un contributo teorico chiave è il Teorema 2, che sfrutta la natura bipartita dei grafi di calcolo.

I nodi del grafo possono essere divisi in due insiemi disgiunti, $A$ e $B$ , tali per cui nessun due nodi all'interno dello stesso insieme sono adiacenti.
Le proiezioni per tutti i nodi nell'insieme $A$ possono essere calcolate indipendentemente e in parallelo perché operano su insiemi disgiunti di variabili di arco. Lo stesso vale per l'insieme $B$ .
Ciò consente di parallelizzare completamente l'intero passo di aggiornamento attraverso la rete, eliminando la dipendenza sequenziale della backpropagation.

D. Il Framework PJAX

Gli autori introducono PJAX (Projection JAX), un framework software costruito sopra JAX.

Composizionale: Similmente a come autodiff compone le derivate, PJAX compone gli operatori di proiezione.
API: Fornisce un'API simile a NumPy/JAX per la definizione dei modelli.
Hardware: Eredita la compilazione JIT di JAX e il supporto per GPU/TPU.
Automazione: Costruisce automaticamente il grafo di calcolo e orchestra i passi di proiezione iterativa.

3. Contributi Chiave

Riformulazione Teorica: Una formulazione rigorosa dell'addestramento delle reti neurali come problema di fattibilità su larga scala utilizzando variabili di arco e vincoli locali, dimostrando che una soluzione fattibile corrisponde a un minimizzatore del rischio empirico.
Algoritmi Parallelizzabili: Una dimostrazione che gli aggiornamenti di proiezione possono essere completamente parallelizzati sfruttando la struttura bipartita dei grafi di calcolo, offrendo un vantaggio distinto rispetto alla backpropagation sequenziale.
Operatori di Proiezione: Derivazioni matematiche per operatori di proiezione su funzioni primitive chiave (prodotto scalare, ReLU, max, quantizzazione) e funzioni di perdita (cross-entropy, perdita di margine).
Framework PJAX: Il primo framework di addestramento senza gradienti a scopo generale che supporta architetture arbitrarie (MLP, CNN, RNN) e accelerazione hardware.
Validazione Empirica: Esperimenti completi che dimostrano la fattibilità dell'approccio attraverso compiti e architetture diversificati.

4. Risultati Sperimentali

Gli autori hanno valutato PJAX su benchmark standard (MNIST, CIFAR-10, HIGGS, Shakespeare) utilizzando MLP, CNN e RNN, confrontandoli con SGD, Adam, Feedback Alignment (FA) e Forward-Forward (FF).

Prestazioni:
- MLP: I metodi di proiezione (specialmente Douglas-Rachford) hanno raggiunto una precisione competitiva rispetto a SGD, spesso con tempi di passo significativamente più rapidi (fino a 10 volte più veloci per passo in reti superficiali).
- RNN: I metodi di proiezione hanno mostrato un vantaggio strutturale evitando la Backpropagation Through Time (BPTT), aggirando i problemi di gradienti che svaniscono o esplodono e convergendo più velocemente in termini di passi rispetto a SGD.
- CNN: Il divario di prestazioni con i metodi basati sui gradienti è stato maggiore e i tempi di passo sono stati più lenti a causa dell'elevato sovraccarico di memoria derivante dalla condivisione dei parametri (vedi sotto).
Profondità e Connessioni Skip: Le reti profonde senza connessioni skip hanno faticato con la propagazione delle informazioni nell'addestramento basato su proiezioni. Tuttavia, l'introduzione di connessioni skip (accorciando i percorsi dagli strati iniziali all'output) ha migliorato significativamente le prestazioni, validando la necessità di aggiustamenti architetturali in questo paradigma.
Efficienza:
- Tempo per Passo: I metodi di proiezione (AP/CP) hanno generalmente avuto un tempo per passo inferiore rispetto a SGD grazie al massiccio parallelismo, sebbene il tempo totale reale fino alla convergenza sia variato.
- Memoria: Il metodo richiede l'archiviazione di variabili di stato per ogni arco nel grafo. Ciò porta a una complessità di memoria $O(|E|)$ , che è superiore alla $O(|V|)$ della backpropagation, specialmente per architetture con condivisione pesante dei parametri (CNN, RNN).

5. Significato e Direzioni Future

Plausibilità Biologica: Il metodo si allinea meglio ai principi di apprendimento biologico utilizzando aggiornamenti locali ed evitando la backpropagation globale dell'errore.
Gestione della Non Differenziabilità: Apre la porta all'addestramento di reti con componenti discrete (ad esempio, reti neurali quantizzate, porte logiche) senza richiedere approssimazioni dei gradienti.
Scalabilità: La natura parallela degli aggiornamenti lo rende altamente adatto all'hardware moderno (GPU/TPU), potenzialmente superando i colli di bottiglia sequenziali della backpropagation in reti molto profonde o ampie.
Limitazioni: La limitazione principale è l'utilizzo della memoria, che scala con la dimensione del batch, la lunghezza della sequenza e la condivisione dei parametri.
Lavori Futuri: Gli autori suggeriscono di esplorare smorzamento adattivo, schemi ibridi (miscelando proiezioni con gradienti), tecniche di risparmio di memoria (stati di arco a rango ridotto) e architetture su misura per ridurre l'interazione parametro-dati.

In sintesi, questo paper presenta un'alternativa convincente all'addestramento basato sui gradienti, dimostrando che la ricerca di fattibilità tramite proiezioni parallele è un paradigma vitale, generale ed efficiente per il deep learning, in particolare per architetture non differenziabili e ricorrenti.