🤖 machine learning

A projection-based framework for gradient-free and parallel learning

Este artículo presenta PJAX, un marco basado en JAX que reformula el entrenamiento de redes neuronales como un problema de factibilidad paralelizable y libre de gradientes mediante operadores de proyección iterativos, ofreciendo una alternativa convincente a la optimización convencional basada en gradientes con ventajas en el manejo de operaciones no diferenciables y la habilitación de paralelismo masivo.

Autores originales: Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Publicado 2026-04-30

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Andreas Bergmeister, Manish Krishan Lal, Stefanie Jegelka, Suvrit Sra

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando resolver un rompecabezas masivo y complejo, como un gigantesco rompecabezas en 3D o un cubo de Rubik, pero no conoces la imagen final.

La Vieja Forma (Aprendizaje Basado en Gradientes)
Actualmente, la mayoría de los modelos de IA aprenden utilizando un método llamado "retropropagación". Piensa en esto como un excursionista que intenta encontrar el fondo de un valle neblinoso (la mejor solución). El excursionista siente la pendiente bajo sus pies (el gradiente) y da un paso cuesta abajo. Sigue haciendo esto, paso a paso, hasta llegar a un punto bajo.

El Problema: A veces el excursionista se queda atrapado en una pequeña hondonada (un mínimo local) que no es el fondo verdadero. A veces el camino es tan empinado o plano que el excursionista se pierde o se mueve demasiado lento. Además, para saber hacia dónde está "abajo", el excursionista tiene que enviar una señal todo el camino de regreso desde el fondo del valle hasta la cima, lo cual es lento y requiere un camino muy específico y simétrico.

La Nueva Forma (Aprendizaje Basado en Proyecciones)
Los autores de este artículo proponen una estrategia completamente diferente. En lugar de intentar encontrar el fondo de un valle, tratan el entrenamiento como un problema de factibilidad.

Imagina que tienes una habitación llena de paredes, cada una con una regla específica.

La Pared A dice: "El bloque rojo debe estar junto al bloque azul".
La Pared B dice: "El bloque verde debe estar encima del bloque rojo".
La Pared C dice: "El peso total debe ser igual a 50 kg".

Tu objetivo no es deslizarte cuesta abajo; es encontrar una sola disposición de bloques donde la regla de cada pared se satisfaga al mismo tiempo.

Cómo Funciona: La Metáfora de la "Proyección"
Los autores llaman a su método "Basado en Proyecciones". Así es como lo hacen:

Desglosarlo: Descomponen el rompecabezas gigante (la red neuronal) en piezas pequeñas y simples llamadas "funciones primitivas" (como operaciones matemáticas simples: sumar números, multiplicarlos o decidir si un número es positivo).
La Solución Local: En lugar de mirar todo el rompecabezas, miran solo una pared (una regla). Si los bloques no cumplen la regla de esa pared, "proyectan" los bloques sobre la pared. Imagina proyectar una luz sobre los bloques; la sombra que proyectan sobre la pared es la posición "correcta" para esa regla específica.
Poder Paralelo: Esta es la parte mágica. Como cada pared solo se preocupa por sus vecinos inmediatos, puedes arreglar la Pared A, la Pared B y la Pared C al mismo tiempo. No tienes que esperar a que la Pared A termine para empezar con la Pared B. Esto es como tener un equipo de 100 personas arreglando diferentes partes de una casa simultáneamente, en lugar de una persona arreglando el techo, luego la cocina, luego el baño, uno por uno.
Repetir: Lo hacen una y otra vez. Cada vez, empujan los bloques para que se ajusten mejor a las reglas locales. Eventualmente, los bloques se asientan en una posición donde satisfacen todas las reglas simultáneamente. Esa es tu IA entrenada.

Por Qué Esto es Genial (Según el Artículo)

No se necesita "Pendiente": No necesitas calcular una "pendiente" (gradiente). Esto significa que puedes usar reglas que son "ásperas" o rotas (no diferenciables), como un interruptor que está encendido o apagado. El método antiguo lucha con esto; este nuevo método los maneja fácilmente.
Plausibilidad Biológica: En el cerebro, las neuronas no envían una "señal de error" global todo el camino de regreso desde el final de un pensamiento hasta el principio. Solo se ajustan en función de lo que hacen sus vecinos inmediatos. Este nuevo método imita ese ajuste local, de vecino a vecino.
Velocidad: Como todos trabajan en paralelo, puede ser mucho más rápido en chips de computadora modernos (GPUs/TPUs) diseñados para hacer muchas cosas a la vez.

La Compensación: El Costo de "Memoria"
El artículo admite que hay una trampa. Para hacer esto, la computadora debe recordar la posición de cada "borde" en el rompecabezas en cada paso.

Analogía: En el método antiguo, solo recuerdas la ubicación actual del excursionista. En este nuevo método, tienes que recordar la posición de cada bloque en la habitación, y cada conexión entre ellos, para cada persona de tu equipo.
Resultado: Esto utiliza mucha más memoria de computadora (RAM). Los autores tuvieron que reducir algunos de sus modelos de prueba para que cupieran en la memoria de su computadora, mientras que el método antiguo podía manejar modelos más grandes con mayor facilidad.

Los Resultados
Los autores construyeron una herramienta de software llamada PJAX (Projection JAX) para probar esto. Lo probaron en diferentes tipos de rompecabezas:

Patrones simples (MLP)
Reconocimiento de imágenes (CNN)
Predicción de lenguaje (RNN)

Descubrieron que, aunque la "vieja forma" (usando optimizadores Adam o SGD) sigue siendo el campeón en velocidad bruta y precisión final en muchos casos, esta nueva forma de "Proyección" funciona sorprendentemente bien. Es una alternativa viable que:

Aprende sin necesidad de gradientes.
Maneja reglas "ásperas" que confunden a otros métodos.
Aprende de manera muy eficiente en hardware paralelo, especialmente para tareas como el modelado de lenguaje donde el método antiguo lucha con los "gradientes que se desvanecen" (olvidar el principio de una oración).

En Resumen
El artículo dice: "Deja de intentar deslizarte cuesta abajo para encontrar la respuesta. En su lugar, trata el problema como un conjunto de reglas locales. Arregla cada regla localmente y simultáneamente, y eventualmente, todo el sistema se acomodará". Es una nueva forma de entrenar IA que es más paralela, más flexible con diferentes tipos de matemáticas, pero que actualmente requiere más memoria.

A continuación se presenta un resumen técnico detallado del artículo "A Projection-Based Framework for Gradient-Free and Parallel Learning".

1. Planteamiento del Problema

El artículo aborda las limitaciones fundamentales del paradigma dominante en el entrenamiento de aprendizaje profundo: la optimización basada en gradientes mediante retropropagación. Aunque altamente efectiva, esta aproximación enfrenta varios desafíos críticos:

Requisito de Diferenciabilidad: Exige que todos los componentes de la red y las funciones de pérdida sean (sub)diferenciables, excluyendo operaciones no diferenciables (por ejemplo, cuantización, lógica discreta).
Cuello de Botella Secuencial: La fase de retroceso es inherentemente secuencial, lo que limita el paralelismo y aumenta la latencia de actualización, especialmente en arquitecturas profundas.
Implausibilidad Biológica: El mecanismo de transporte simétrico de pesos (enviar gradientes de error a través de exactamente los mismos pesos utilizados para la propagación hacia adelante) se considera biológicamente poco realista.
Patologías de Optimización: Los métodos basados en gradientes a menudo luchan contra gradientes que se desvanecen o explotan, mínimos locales y puntos de silla.

Los autores proponen un cambio de paradigma: reformular el entrenamiento de redes neuronales no como un problema de minimización de pérdida, sino como un problema de factibilidad. En lugar de navegar por un paisaje de pérdida, el objetivo es encontrar parámetros de red y estados intermedios que satisfagan simultáneamente una colección de restricciones locales derivadas de la estructura de la red y sus mapeos de entrada-salida.

2. Metodología

La metodología central se basa en algoritmos de proyección iterativa aplicados a un grafo de cómputo de grano fino.

A. Formulación de Factibilidad

El entrenamiento se define como encontrar un vector de estado $z$ (que representa todos los valores de las aristas en el grafo de cómputo) que se encuentre en la intersección de múltiples conjuntos de restricciones $C_v$ :
$\text{Encontrar } z \in \bigcap_{v \in V} C_v$
Donde $V$ representa los nodos en el grafo de cómputo. Las restricciones se definen localmente para cada tipo de nodo:

Nodos de Entrada Constante: Imponen que las aristas salientes transporten el valor de entrada.
Nodos de Parámetros: Imponen consenso entre todas las aristas salientes de un parámetro (asegurando que se utilice un único valor de peso en todas partes).
Nodos de Función Oculta: Imponen que la salida de una arista sea igual al resultado de aplicar la función primitiva (por ejemplo, ReLU, producto punto) a sus entradas.
Nodos de Objetivo/Pérdida: Imponen que la salida de la red minimice la pérdida (o satisfaga una restricción de margen) en relación con el objetivo.

B. Operadores de Proyección

La solución se encuentra utilizando algoritmos iterativos como Proyecciones Alternadas (AP), Proyecciones Cíclicas (CP) y Douglas-Rachford (DR).

Proyecciones Locales: Para cada nodo, el algoritmo proyecta el estado actual sobre el conjunto de restricciones definido por ese nodo.
Funciones Primitivas: El artículo deriva soluciones numéricas de forma cerrada o eficientes para proyectar sobre los gráficos de operaciones elementales (por ejemplo, productos punto, ReLU de sumas, agrupación máxima, cuantización).
No Diferenciabilidad: Dado que las proyecciones se basan en la minimización de la distancia en lugar de derivadas, el marco maneja naturalmente funciones no diferenciables (por ejemplo, cuantización, funciones escalón).

C. Paralelización mediante Bipartición

Una contribución teórica clave es el Teorema 2, que aprovecha la naturaleza bipartita de los grafos de cómputo.

Los nodos del grafo pueden dividirse en dos conjuntos disjuntos, $A$ y $B$ , de modo que ningún par de nodos dentro del mismo conjunto sea adyacente.
Las proyecciones para todos los nodos en el conjunto $A$ pueden calcularse independientemente y en paralelo porque operan sobre conjuntos disjuntos de variables de arista. Lo mismo aplica al conjunto $B$ .
Esto permite que todo el paso de actualización se paralelice completamente a través de la red, eliminando la dependencia secuencial de la retropropagación.

D. El Marco PJAX

Los autores introducen PJAX (Projection JAX), un marco de software construido sobre JAX.

Composicional: Al igual que autodiff compone derivadas, PJAX compone operadores de proyección.
API: Proporciona una API similar a NumPy/JAX para definir modelos.
Hardware: Hereda la compilación JIT de JAX y el soporte para GPUs/TPUs.
Automatización: Construye automáticamente el grafo de cómputo y orquesta los pasos de proyección iterativa.

3. Contribuciones Clave

Reformulación Teórica: Una formulación rigurosa del entrenamiento de redes neuronales como un problema de factibilidad a gran escala utilizando variables de arista y restricciones locales, demostrando que una solución factible corresponde a un minimizador de riesgo empírico.
Algoritmos Paralelizables: Una demostración de que las actualizaciones de proyección pueden paralelizarse completamente explotando la estructura bipartita de los grafos de cómputo, ofreciendo una ventaja distinta sobre la retropropagación secuencial.
Operadores de Proyección: Derivaciones matemáticas para operadores de proyección en funciones primitivas clave (producto punto, ReLU, máximo, cuantización) y funciones de pérdida (entropía cruzada, pérdida de margen).
Marco PJAX: El primer marco de entrenamiento general sin gradientes que soporta arquitecturas arbitrarias (MLP, CNN, RNN) y aceleración por hardware.
Validación Empírica: Experimentos exhaustivos que demuestran la viabilidad del enfoque en diversas tareas y arquitecturas.

4. Resultados Experimentales

Los autores evaluaron PJAX en benchmarks estándar (MNIST, CIFAR-10, HIGGS, Shakespeare) utilizando MLP, CNN y RNN, comparando contra SGD, Adam, Alineación de Retroalimentación (FA) y Forward-Forward (FF).

Rendimiento:
- MLP: Los métodos de proyección (especialmente Douglas-Rachford) lograron una precisión competitiva con SGD, a menudo con tiempos de paso significativamente más rápidos (hasta 10 veces más rápido por paso en redes poco profundas).
- RNN: Los métodos de proyección mostraron una ventaja estructural al evitar la Retropropagación a través del Tiempo (BPTT), eludiendo problemas de gradientes que se desvanecen o explotan y convergiendo más rápido en términos de pasos que SGD.
- CNN: La brecha de rendimiento con los métodos basados en gradientes fue mayor, y los tiempos de paso fueron más lentos debido a la alta sobrecarga de memoria por el uso compartido de parámetros (ver abajo).
Profundidad y Conexiones de Salto: Las redes profundas sin conexiones de salto tuvieron dificultades con la propagación de información en el entrenamiento basado en proyecciones. Sin embargo, introducir conexiones de salto (acortando caminos desde capas tempranas hasta la salida) mejoró significativamente el rendimiento, validando la necesidad de ajustes arquitectónicos en este paradigma.
Eficiencia:
- Tiempo por Paso: Los métodos de proyección (AP/CP) generalmente tuvieron un menor tiempo por paso que SGD debido al masivo paralelismo, aunque el tiempo total de reloj para la convergencia varió.
- Memoria: El método requiere almacenar variables de estado para cada arista en el grafo. Esto conduce a una complejidad de memoria de $O(|E|)$ , que es mayor que la $O(|V|)$ de la retropropagación, especialmente para arquitecturas con uso compartido intensivo de parámetros (CNN, RNN).

5. Significado y Direcciones Futuras

Plausibilidad Biológica: El método se alinea mejor con los principios de aprendizaje biológico al utilizar actualizaciones locales y evitar la retropropagación global de errores.
Manejo de No Diferenciabilidad: Abre la puerta al entrenamiento de redes con componentes discretos (por ejemplo, redes neuronales cuantizadas, puertas lógicas) sin requerir aproximaciones de gradiente.
Escalabilidad: La naturaleza paralela de las actualizaciones lo hace altamente adecuado para hardware moderno (GPUs/TPUs), superando potencialmente los cuellos de botella secuenciales de la retropropagación en redes muy profundas o anchas.
Limitaciones: La limitación principal es el uso de memoria, que escala con el tamaño del lote, la longitud de la secuencia y el uso compartido de parámetros.
Trabajo Futuro: Los autores sugieren explorar amortiguación adaptativa, esquemas híbridos (mezclando proyecciones con gradientes), técnicas de ahorro de memoria (estados de arista de rango bajo) y arquitecturas personalizadas para reducir la interacción parámetro-datos.

En resumen, este artículo presenta una alternativa convincente al entrenamiento basado en gradientes, demostrando que la búsqueda de factibilidad mediante proyecciones paralelas es un paradigma viable, general y eficiente para el aprendizaje profundo, particularmente para arquitecturas no diferenciables y recurrentes.