Learning in Deep Networks under Dale's Constraint

Resumen Técnico: Aprendizaje en Redes Profundas bajo la Restricción de Dale

Planteamiento del Problema
El aprendizaje profundo se ha convertido en un marco principal para la neurociencia de sistemas, pero el algoritmo estándar de retropropagación (backpropagation) enfrenta obstáculos significativos en cuanto a su plausibilidad biológica. Un obstáculo central es la restricción de Dale: las neuronas biológicas son puramente excitatorias o puramente inhibitorias, y las sinapsis no pueden cambiar de signo. Además, la actividad neuronal (tasas de disparo) es inherentemente no negativa. La retropropagación estándar depende de activaciones con signo, señales de error con signo y pesos sinápticos sin restricción de signo para propagar los gradientes. Los modelos de aprendizaje existentes que son biológicamente plausibles (por ejemplo, codificación predictiva, alineación de retroalimentación) a menudo no logran satisfacer simultáneamente la ley de Dale y la no negatividad de la actividad, al tiempo que recuperan las actualizaciones exactas del gradiente. Específicamente, muchos modelos permiten que las neuronas representen valores de signo mixto o dependen de señales de error globales que violan las restricciones sinápticas locales.

Metodología
Los autores proponen una arquitectura neuronal novedosa y una regla de aprendizaje que se adhiere estrictamente a la restricción de Dale y a la actividad no negativa, mientras soporta un aprendizaje similar a la retropropagación.

1. Motivo de Circuito Neuronal On-Off (Encendido-Apagado):

   • El bloque de construcción central es un pequeño motivo de circuito compuesto por neuronas excitatorias e inhibitorias.
   • Este motivo mapea dos entradas no negativas ($x_1, x_2 \ge 0$) a dos canales de salida no negativos, denotados como $y^+$ (On) y $y^-$ (Off).
   • El circuito implementa una operación de diferencia "suave". Si $x_1 > x_2$, el canal On se activa; si $x_2 > x_1$, el canal Off se activa.
   • Una cantidad con signo $d = x_1 - x_2$ no se representa mediante una única neurona de signo mixto, sino mediante el par de canales no negativos: una diferencia positiva se codifica en $y^+$, y una diferencia negativa en $y^-$ con la misma magnitud. A lo sumo, un canal está activo a la vez (o ambos son cero si la diferencia está por debajo de un umbral).

2. Arquitectura de la Red:

   • Las redes profundas estándar se construyen reemplazando cada neurona de signo mixto oculta por un motivo on-off.
   • La red opera en dos flujos:
     • Bottom-Up (BU - Ascendente): Computa las activaciones de alimentación hacia adelante (feedforward) utilizando los motivos on-off.
     • Top-Down (TD - Descendente): Propaga las señales de retroalimentación para el aprendizaje. Para cada motivo BU, hay dos motivos TD correspondientes (uno para el canal BU On y uno para el canal BU Off).
   • El flujo TD también utiliza canales no negativos emparejados para representar las actualizaciones sinápticas positivas y negativas.

3. Regla de Aprendizaje Hebbiana Local:

   • El aprendizaje es impulsado por una actualización hebbiana local que combina la actividad presináptica BU con las señales de retroalimentación TD emparejadas.
   • Para una sinapsis con actividad presináptica $x_j$, la actualización está determinada por dos canales TD:
     • La actividad en el canal TD positivo ($\bar{\partial}_i$) impulsa un incremento hebbiano en el peso sináptico.
     • La actividad en el canal TD negativo ($\partial_i$) impulsa una disminución hebbiana.
   • La actualización efectiva es $\Delta W_{ij} = \eta x_j (\bar{\partial}_i - \partial_i)$.
   • Crucialmente, el peso sináptico $W_{ij}$ tiene un signo fijo (excitatorio o inhibitorio), pero su magnitud se actualiza basándose en la diferencia entre los dos canales TD no negativos.

Análisis Teórico
Los autores proporcionan una prueba teórica que muestra que, bajo condiciones específicas, este esquema de aprendizaje local recupera exactamente la actualización de la retropropagación:

• Supuestos: La red BU consiste en operaciones lineales seguidas de no linealidades ReLU, y los pesos BU y TD están alineados (simétricos).
• Mecanismo: La propagación TD satisface la misma recursión que las señales de error de la retropropagación ($\delta_l$). Específicamente, la diferencia entre los dos canales no negativos de TD ($\bar{\partial}_l - \partial_l$) se propaga hacia atrás exactamente como lo hace la señal de error con signo $\delta_l$ en la retropropagación estándar, modulada por la derivada de la ReLU (que corresponde al canal BU activo).
• Resultado: En consecuencia, la actualización hebbiana local $\eta (\bar{\partial}_l - \partial_l) h_{l-1}^T$ es matemáticamente equivalente a la actualización de descenso de gradiente $-\eta \frac{\partial L}{\partial W_l}$.

Resultados Experimentales
El modelo fue evaluado en benchmarks de clasificación de imágenes:

• Experimentos Controlados (MNIST, Fashion-MNIST, CIFAR-10):
  • El modelo hebbiano simétrico (donde los pesos BU y TD están alineados) logró una precisión de prueba comparable a las redes entrenadas con retropropagación estándar de la misma anchura efectiva.
  • Las variantes con "simetría débil" (alineación ruidosa) y pesos de "motivo aprendido" también funcionaron bien, lo que sugiere que la arquitectura es robusta a la alineación imperfecta y no requiere pesos internos de magnitud fija.
  • El modelo on-off superó a los MLP de ReLU estándar de ancho comparable, lo que sugiere que la representación de canales emparejados ofrece beneficios computacionales más allá de simplemente duplicar el número de neuronas.
• Escalabilidad (Tiny ImageNet):
  • En el benchmark más desafiante de Tiny ImageNet (200 clases), el modelo on-off con aprendizaje hebbiano local alcanzó una precisión top-1 del 42.31%.
  • Esto superó significativamente a bases de comparación biológicamente inspiradas recientes como Self-Contrastive Forward-Forward (SCFF, 35.7%) y las bases convolucionales estándar de ancho coincidente (35.58%).
  • Los resultados indican que la arquitectura escala eficazmente a redes convolucionales más profundas.

Significado y Reivindicaciones
El artículo afirma resolver una discrepancia de larga data en el aprendizaje biológicamente plausible: cómo implementar una asignación de crédito efectiva en redes restringidas por la ley de Dale y la actividad no negativa.

• Plausibilidad Biológica: El modelo demuestra que las señales de aprendizaje con signo pueden emerger de interacciones estructuradas entre poblaciones neuronales no negativas (canales On/Off) sin requerir que las neuronas disparen negativamente o que las sinapsis cambien de signo. Esto concuerda con la evidencia biológica de las vías on-off en la retina y la corteza visual, así como con los hallazgos recientes de la retroalimentación dendrítica vectorizada.
• Eficacia Computacional: Contrario a la suposición de que las restricciones biológicas necesariamente degradan el rendimiento, la arquitectura on-off no solo iguala, sino que a menudo supera el rendimiento de las redes "vanilla" estándar de tamaño comparable. Los autores sugieren que la representación de canales emparejados proporciona una forma eficiente de codificar características visuales (por ejemplo, polaridades de bordes complementarios o contrastes objeto-fondo), ofreciendo una ventaja computacional junto con el realismo biológico.
• Limitaciones: Los autores reconocen que el modelo no es un modelo biológico completo del aprendizaje cortical. Requiere duplicar las neuronas (o canales) en comparación con las redes estándar y depende de la alineación de las vías BU y TD, aunque demuestran que esta alineación no necesita ser exacta.

En resumen, el trabajo proporciona un mecanismo concreto para un aprendizaje similar a la retropropagación en redes restringidas por Dale, cerrando la brecha entre el poder computacional del aprendizaje basado en gradientes y las restricciones físicas de los circuitos neuronales biológicos.