Resumen Técnico: Red de Feromonas Locales

Planteamiento del Problema

Las redes neuronales contemporáneas dependen de módulos densos y diferenciables entrenados mediante retropropagación global. Aunque son potentes, este enfoque acopla el aprendizaje a través de vastos conjuntos de parámetros, lo que conduce al olvido catastrófico cuando las nuevas tareas sobrescriben parámetros esenciales para tareas anteriores. Los sistemas biológicos ofrecen un paradigma alternativo donde las sinapsis son locales, la plasticidad es modulada por señales neuromoduladoras y las memorias se consolidan con el tiempo. Sin embargo, los modelos computacionales existentes suelen carecer de un prototipo de ingeniería unificado que se adhiera estrictamente a reglas de aprendizaje locales, dispersas y sin retropropagación.

Metodología: Red de Feromonas Locales (LPN)

El artículo presenta la Red de Feromonas Locales (LPN), un prototipo de investigación para redes neuronales manuales, locales y dispersas. La arquitectura evita por completo la diferenciación automática, basándose en su lugar en una regla de aprendizaje local personalizada.

Arquitectura Central

• Conectividad Local Dispersa: Cada unidad de salida se conecta solo a un vecindario fijo y presupuestado de unidades de entrada ($K$ vecinos). La conectividad está restringida por:
  • Distancia Geométrica: Las unidades se ubican en una cuadrícula de 1D o 2D.
  • Etiquetas Moleculares: Solo se permiten conexiones entre unidades con etiquetas enteras compatibles (dentro de una distancia $\Delta t$).
• Representación de Estado: Cada sinapsis almacena:
  • Un peso entrenable ($W$).
  • Una traza de feromona a corto plazo ($s$) y una traza de feromona a largo plazo ($p$).
  • Un estado de consolidación ($c$) opcional.
• Paso hacia Adelante (Forward Pass): El peso efectivo es modulado por una compuerta de feromona ($g$), que normaliza la masa combinada de feromona de corto y largo plazo. Esto permite que la red pondere dinámicamente las vías locales durante la inferencia sin alterar los pesos base.

Regla de Aprendizaje

El entrenamiento procede mediante una actualización de estilo Hebbiano, local y presupuestada en lugar de un descenso de gradiente:

1. Señal de Error: Se calcula un tensor de error local. Para las capas ocultas, se propaga una señal de retroalimentación aproximada a través de los pesos locales efectivos y las derivadas de activación (una aproximación de ingeniería, no una exactitud biológica).
2. Adaptación del Presupuesto: El número de sinapsis actualizadas por unidad de salida ($B$) se adapta en línea basándose en las tendencias de la pérdida:
   • Modo Explotación (Exploit Mode): Si la pérdida mejora, el presupuesto se reduce.
   • Modo Seguimiento de Vecinos (Neighbor-Follow Mode): Si la pérdida empeora, el presupuesto se expande hacia vecindarios recientemente activos para fomentar la exploración local.
3. Selección de Sinapsis: Se selecciona un subconjunto de sinapsis para su actualización basándose en una puntuación que combina la magnitud de la señal local ($|q|$) y la feromona a largo plazo ($p$).
4. Mecanismo de Actualización: Los pesos seleccionados se actualizan utilizando la señal local y un multiplicador de plasticidad ($\rho$) derivado del estado de consolidación.
5. Dinámica de Feromonas:
   • Refuerzo: La co-actividad activa y las señales de error refuerzan tanto las feromonas de corto como las de largo plazo.
   • Evaporación: Las trazas decaen a diferentes tasas ($\lambda_s, \lambda_p$), creando una memoria multiescala.
6. Consolidación: Cuando se cumplen criterios específicos (pérdida baja, refuerzo positivo, alta feromona a largo plazo), una sinapsis entra en un estado consolidado. Esto reduce su plasticidad ($\rho$), protegiéndola de ser sobrescrita por tareas conflictivas.
7. Plasticidad Estructural y Replay:
   • Plasticidad Estructural: Las sinapsis con baja feromona y no seleccionadas pueden ser podadas y reemplazadas por nuevas conexiones con candidatos compatibles de etiquetas en vecindarios activos.
   • Replay Local: Si una nueva actualización causa un pico de pérdida (indicando conflicto), se retransmiten ejemplos almacenados de modos previos de "explotación" o "estabilidad" utilizando la misma regla de actualización local para mitigar el olvido.

Contribuciones Clave

Las contribuciones del artículo son principalmente descriptivas y arquitectónicas, formalizando una clase específica de sistemas de aprendizaje local:

1. Formalización de una Capa Local Dispersa: Una capa donde la conectividad está estrictamente definida por la localidad espacial y la compatibilidad de etiquetas, almacenada como matrices dispersas en lugar de tensores densos.
2. Aprendizaje Mediante Compuerta de Feromona: Un mecanismo donde el aprendizaje es regulado por trazas de feromona multiescala, distinguiendo entre actividad transitoria y memoria estable.
3. Selección de Sinapsis Adaptativa al Presupuesto: Un mecanismo dinámico que reduce o expande el presupuesto de aprendizaje basado en el rendimiento, priorizando la exploración local cuando los errores aumentan.
4. Estabilidad Impulsada por la Consolidación: Un mecanismo de consolidación por sinapsis que reduce la plasticidad para conexiones maduras, intercambiando explícitamente adaptabilidad por estabilidad.
5. Integración de Replay Local: Un método para la resolución de conflictos que reaplica reglas de actualización local a ejemplos almacenados sin invocar la retropropagación.

Resultados Experimentales

Los autores presentan sondas de comportamiento preliminares sobre tareas sintéticas en lugar de comparativas de referencia (benchmarks):

• Regresión Local: La red aprendió con éxito mapeos lineales locales simples (12 entradas $\to$ 3 salidas) con un MSE que cayó de ~1.17 a ~0.008, confirmando la eficacia de la regla de actualización local cuando la geometría coincide con la estructura de la tarea.
• Memoria Particionada: Las tareas asignadas a diferentes regiones de salida y etiquetas fueron preservadas de forma independiente.
• Memoria en Conflicto: Cuando dos tareas compitieron por las mismas sinapsis locales, la red exhibió un olvido catastrófico (ratio de pérdida ~92x), como era de esperar sin consolidación.
• Conflicto Consolidado: Con la consolidación habilitada, el olvido se redujo significamente (ratio de pérdida ~49x frente a ~1481x en la línea base), aunque el aprendizaje de la nueva tarea conflictiva se volvió más lento. Esto demuestra el intercambio de estabilidad-plasticidad previsto.
• Plasticidad Estructural y Replay: El sistema ajustó con éxito los vecindarios locales y activó pasos de replay cuando se detectaron conflictos.
• Memoria Híbrida: En una tarea sintética de contexto largo, un modelo híbrido que combina un predictor convolucional estándar con una rama de memoria LPN logró un 100% de precisión, mientras que la base convolucional por sí sola falló (8% de precisión).

Significado y Reivindicaciones

El artículo posiciona a la Red de Feromonas Locales como un modesto prototipo de ingeniería en lugar de un reemplazo para los Transformers o el aprendizaje profundo estándar.

• Lo que demuestra:
  1. Las capas locales dispersas y con restricciones de etiqueta pueden ajustar funciones locales simples sin autograd.
  2. Las máscaras de salida y las etiquetas pueden separar eficazmente las memorias a través de regiones.
  3. El conflicto directo en sinapsis compartidas causa olvido, pero la consolidación puede mitigarlo reduciendo la plasticidad.
  4. El replay local y la plasticidad estructural pueden integrarse en un único bucle de actualización local.
• Lo que NO demuestra:
  • No es un reemplazo competitivo para arquitecturas de modelado de secuencias (Transformers, RNNs).
  • No resuelve problemas de modelado de secuencias a gran escala.
  • La señal de retroalimentación de la capa oculta es una aproximación de ingeniería, no una regla biológicamente exacta.

Los autores concluyen que la arquitectura sirve como un banco de pruebas concreto para investigar la memoria local, la partición de regiones cerebrales y la dinámica de estabilidad-plasticidad, sugiriendo un potencial futuro en modelos híbridos donde los aprendices convencionales proporcionan características densas y las ramas LPN almacenan asociaciones de largo plazo particionadas.