Predictive Coding Networks and Inference Learning: Tutorial and Survey

Este trabajo ofrece una revisión exhaustiva y una especificación formal de las redes de codificación predictiva, situándolas como un marco versátil y biológicamente plausible dentro de la inteligencia artificial moderna que supera las limitaciones de la retropropagación tradicional.

Lo esencial

¡Claro que sí! Imagina que el cerebro humano es como un chef experto en una cocina muy ruidosa. Este chef no necesita probar cada plato mil veces para saber si está salado; simplemente adivina cómo debería saber el plato basándose en su experiencia, y luego solo presta atención a las pequeñas sorpresas (el "ruido" o el error) cuando el sabor real no coincide con su predicción.

Este artículo es un manual de instrucciones para crear una nueva generación de inteligencias artificiales (IA) que imitan a este chef. Se llaman Redes de Codificación Predictiva (PCN).

Aquí te explico los conceptos clave usando analogías sencillas:

1. El Problema: La IA actual es como un estudiante que repite de memoria

Las redes neuronales actuales (las que usan ChatGPT o reconocen gatos en fotos) se entrenan con un método llamado Backpropagation (BP).

• La analogía: Imagina un estudiante que escribe un ensayo, lo entrega al profesor, recibe una nota con correcciones en rojo, y luego borra todo su ensayo para volver a escribirlo desde cero, corrigiendo cada palabra basándose en esas notas.
• El problema: Esto es muy lento, gasta mucha energía y, lo más importante, no es biológicamente realista. Nuestro cerebro no funciona así; no borra y reescribe todo el pensamiento cada vez que aprende algo nuevo. Además, este método tiene dificultades para aprender cosas nuevas sin "olvidar" las viejas (como cuando aprendes a conducir un coche nuevo y olvidas cómo andar en bicicleta).

2. La Solución: Las Redes de Codificación Predictiva (PCN)

Las PCN funcionan bajo la idea de que el cerebro es un máquina de adivinanzas.

• La analogía: Imagina que tienes un equipo de detectives en una torre de vigilancia.
  • El detective de abajo (los sentidos) ve una sombra.
  • El detective de arriba (el cerebro) le grita: "¡Eso no es una sombra, es un gato!".
  • Si la sombra se parece a un gato, el detective de abajo dice: "¡Correcto!" y no hace nada.
  • Si la sombra es un perro, el detective de abajo grita: "¡Error! ¡Es un perro!".
  • La clave: El equipo solo necesita corregir su predicción cuando hay un error. No necesitan reescribir todo el sistema, solo ajustan lo que falló.

3. ¿Cómo aprenden? (Aprendizaje por Inferencia)

En lugar de borrar y reescribir (como el Backpropagation), estas redes usan un método llamado Aprendizaje por Inferencia (IL).

• La analogía: Imagina que estás ajustando la temperatura de una ducha.
  • Método antiguo (BP): Giras la manija, te mojas, te quemas, te enfrias, y luego calculas matemáticamente exactamente cuánto girar la manija en el pasado para que no te quemaras. Es complicado y lento.
  • Método nuevo (IL): Sientes el agua. Si está fría, giras un poco. Si sigue fría, giras un poco más. Lo haces mientras sientes, ajustando en tiempo real basándote en lo que sientes ahora.
• Ventaja: Esto permite que la red aprenda de forma más natural, como lo hace un animal. Además, como cada detective (neurona) solo necesita escuchar a sus vecinos inmediatos, todos pueden trabajar al mismo tiempo (paralelismo), lo que las hace potencialmente mucho más rápidas y eficientes en energía.

4. Dos caras de la misma moneda

El artículo explica que estas redes son muy versátiles, como un cuchillo suizo:

• Cara Discriminativa (Supervisada): Sirve para clasificar cosas. "¿Es esto un gato o un perro?". Aquí, la red intenta predecir la etiqueta correcta basándose en la imagen.
• Cara Generativa (No supervisada): Sirve para crear cosas. "Imagina un gato". Aquí, la red empieza con una idea (un ruido aleatorio) y la va refinando hasta que sale una imagen de un gato. Es como si el detective de arriba dijera: "Imagina un gato" y el de abajo fuera creando la imagen pixel por pixel hasta que encaja con la idea.

5. El futuro: Más que una red, un "mapa" flexible

Lo más emocionante que proponen los autores es que estas redes no tienen que ser una torre de pisos (como las redes actuales). Pueden ser grafos (redes de conexiones) de cualquier forma, imitando la estructura caótica pero eficiente del cerebro humano.

• La analogía: Las redes actuales son como un edificio de rascacielos: todos deben pasar por el mismo ascensor (capas) para llegar arriba. Las nuevas redes PCN son como una ciudad con calles, puentes y túneles. Puedes ir de un punto a otro de muchas formas diferentes, lo que las hace mucho más flexibles y robustas.

En resumen

Este artículo es un "tutorial y encuesta" (un resumen completo) para decirle a los científicos de la computación:

"¡Oigan! Hemos estado construyendo IAs como estudiantes que repiten de memoria (Backpropagation). Pero hay una forma mejor, más parecida a cómo piensa nuestro cerebro (Codificación Predictiva). Es más eficiente, aprende mejor de lo nuevo sin olvidar lo viejo, y puede hacer tanto clasificar como crear imágenes. Aunque antes era muy lento de calcular, ahora tenemos las herramientas para hacerlo rápido. ¡Es hora de usarlo!"

Es un paso gigante hacia la NeuroIA: una inteligencia artificial que no solo es inteligente, sino que también es eficiente y adaptable como un ser vivo.

Resumen técnico

Resumen Técnico: Redes de Codificación Predictiva y Aprendizaje por Inferencia

1. Planteamiento del Problema

A pesar de los avances empíricos recientes en el aprendizaje automático (ML), el aprendizaje biológico sigue superando a las máquinas en flexibilidad y eficiencia energética. La comunidad de IA ha comenzado a reorientarse hacia enfoques inspirados en la neurociencia (NeuroAI).
El problema central abordado es la limitación de la retropropagación (Backpropagation - BP), el algoritmo de entrenamiento estándar en redes neuronales profundas. BP es computacionalmente costoso, no es biológicamente plausible (requiere propagación de errores no locales y sincrónicos) y no explica ciertos patrones de actividad neuronal observados en experimentos biológicos.
Existe una necesidad de un marco unificado que:

• Ofrezca una alternativa biológicamente plausible a BP.
• Integre el aprendizaje supervisado y no supervisado (generativo) bajo un mismo principio.
• Supere las limitaciones computacionales de las implementaciones anteriores de la Codificación Predictiva (PC).

2. Metodología y Marco Teórico

El artículo presenta una revisión exhaustiva y una especificación formal de las Redes de Codificación Predictiva (PCNs) y su algoritmo de entrenamiento, el Aprendizaje por Inferencia (Inference Learning - IL). Los autores estructuran la PCN desde tres perspectivas complementarias (ver Fig. 3 del artículo):

A. PCNs como Redes Neuronales Generalizadas (ANNs)

• Mecanismo: A diferencia de las redes feedforward (FNN) donde la activación fluye unidireccionalmente ($\mathbf{a}_\ell = f(\mathbf{w}_{\ell-1}\mathbf{a}_{\ell-1})$), las PCNs utilizan un bucle de retroalimentación.
• Regla de Actividad: Cada capa $\ell$ intenta predecir la actividad de la capa inferior ($\mathbf{\mu}_\ell$). La diferencia entre la actividad real y la predicción genera un error de predicción ($\mathbf{\epsilon}_\ell = \mathbf{a}_\ell - \mathbf{\mu}_\ell$).
• Función de Energía: El objetivo es minimizar una función de energía definida como la suma de los errores de predicción cuadrados: $E = \frac{1}{2}\sum (\mathbf{\epsilon}_\ell)^2$.
• Fase de Inferencia: Durante el entrenamiento, las activaciones ocultas se ajustan iterativamente mediante descenso de gradiente local para minimizar $E$, antes de actualizar los pesos.
• Equivalencia: Se demuestra que, durante la prueba (inferencia), una PCN discriminativa se vuelve matemáticamente equivalente a una FNN estándar.

B. PCNs como Modelos Probabilísticos de Variables Latentes

• Fundamento: La PC se deriva formalmente de la inferencia variacional y la maximización de la verosimilitud en modelos jerárquicos gaussianos.
• Conexión con EM: El algoritmo IL se identifica como una instancia del algoritmo Expectation-Maximization (EM).
  • Paso E (Inferencia): Minimizar la energía (encontrar la estimación de máxima a posteriori de las variables latentes).
  • Paso M (Aprendizaje): Actualizar los parámetros (pesos) para maximizar la verosimilitud.
• Modelos Generativos: Al cambiar la dirección de las predicciones (de datos a etiquetas, o viceversa), las PCNs pueden funcionar como modelos generativos (similares a VAEs o modelos de difusión) para aprendizaje no supervisado.

C. Aprendizaje por Inferencia (IL) vs. Retropropagación (BP)

• Localidad: La actualización de activaciones y pesos en IL depende solo de información local (capas adyacentes), permitiendo paralelización masiva. En contraste, BP requiere una propagación secuencial de errores desde la salida hasta la entrada.
• Complejidad Temporal: Con suficiente paralelización, la complejidad de IL por actualización de pesos deja de escalar con la profundidad de la red ($O(M)$ vs $O(L \cdot M)$ en BP), lo que es crucial para redes muy profundas.
• Configuración Prospectiva: Un concepto clave donde las activaciones neuronales cambian antes de que se modifiquen los pesos, "anticipando" la entrada futura. Esto explica fenómenos biológicos y mejora el aprendizaje continuo.

D. Extensiones: Gráficos de Codificación Predictiva (PC Graphs)

• Los autores introducen la generalización de las PCNs a grafos arbitrarios (no necesariamente jerárquicos), conocidos como PC Graphs. Esto permite estructuras heterárquicas (tipo cerebro) que son un superconjunto de las FNNs y las PCNs jerárquicas, abriendo nuevas arquitecturas no entrenables con BP.

3. Contribuciones Clave

1. Especificación Formal Unificada: Proporcionan una definición matemática rigurosa de las PCNs modernas, integrando las perspectivas de redes neuronales, modelos probabilísticos y algoritmos de aprendizaje.
2. Demostración de Superconjunto: Establecen que las PCNs y los PC Graphs forman un superconjunto matemático de las redes neuronales feedforward tradicionales, permitiendo arquitecturas más generales.
3. Análisis de Eficiencia y Escalabilidad: Discuten cómo el paralelismo en IL puede superar la ineficiencia computacional histórica, eliminando la dependencia lineal con la profundidad de la red.
4. Conexiones Teóricas: Vinculan IL con métodos de optimización avanzados como Implicit SGD, métodos de Trust Region y la sensibilidad a información de segundo orden (curvatura del paisaje de pérdida), lo que explica su convergencia más rápida en ciertos escenarios.
5. Recurso Práctico: Presentan una biblioteca de Python (PRECO) basada en PyTorch que implementa PCNs y PC Graphs, facilitando la experimentación.

4. Resultados Empíricos

El artículo revisa el estado del arte en experimentos:

• Redes Pequeñas: En datasets como MNIST y Fashion-MNIST, IL logra una precisión comparable a BP (diferencias < 1%), con ventajas notables en aprendizaje continuo, eficiencia de datos (menos de 300 muestras por clase) y aprendizaje online (batch size 1).
• Redes Grandes y Profundas:
  • Estudios anteriores mostraron que IL deterioraba su rendimiento en redes profundas (ej. VGG, ResNet) debido a inestabilidades en el paso forward (gradientes que desaparecen o explotan).
  • Avance Reciente: Trabajos citados (ej. [42]) demuestran que utilizando técnicas de inicialización como Depth-$\mu$P, las PCNs pueden entrenar redes ResNet de más de 100 capas con un rendimiento competitivo con BP, resolviendo el problema de escalabilidad.
• Modelos Generativos: Las PCNs generativas muestran resultados competitivos frente a VAEs y GANs en métricas de log-verosimilitud y FID, aunque el campo está menos explorado que el supervisado.
• Gráficos (PC Graphs): En tareas de clasificación con grafos totalmente conectados, superan significativamente a máquinas de Boltzmann y redes de Hopfield (hasta un 30% en MNIST), aunque aún no igualan a las redes jerárquicas profundas sin regularización específica.

5. Significado e Impacto

Este trabajo es fundamental para el campo emergente del NeuroAI por varias razones:

• Puente entre Disciplinas: Conecta la teoría neurocientífica de la codificación predictiva con las herramientas prácticas del aprendizaje automático moderno.
• Alternativa a BP: Ofrece un algoritmo de entrenamiento (IL) que es biológicamente plausible, local y potencialmente más eficiente en hardware neuromórfico y paralelo.
• Nuevas Arquitecturas: La generalización a grafos arbitrarios sugiere un nuevo paradigma de diseño de redes neuronales que no está limitado por la jerarquía estricta de capas, imitando mejor la conectividad cerebral.
• Mejora en Aprendizaje Continuo: La propiedad de "configuración prospectiva" y la menor interferencia catastrófica posicionan a las PCNs como candidatos ideales para sistemas que deben aprender continuamente sin olvidar conocimientos previos.

En conclusión, el artículo posiciona a las Redes de Codificación Predictiva no solo como un modelo neurocientífico, sino como un marco robusto y versátil para la próxima generación de algoritmos de aprendizaje automático, capaz de superar limitaciones fundamentales de las redes neuronales tradicionales entrenadas con retropropagación.