🤖 machine learning

NeuronSoup: Evolving Asynchronous, Shared-Neuron Temporal Graphs without Backpropagation

NeuronSoup es una arquitectura neuronal novedosa que utiliza un algoritmo genético para evolucionar un grafo temporal de neuronas compartidas y asíncronas sin retropropagación, logrando un 85.9% de precisión en MNIST al permitir la interferencia de señales dinámica y la profundidad de computación adaptativa.

Autores originales: Subodh Kalia

Publicado 2026-07-17

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Subodh Kalia

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un mundo donde resolver un rompecabezas no requiere que todos griten su respuesta exactamente al mismo tiempo. En el reino de la inteligencia artificial, específicamente en un campo llamado "neuroevolución", los científicos están tratando de construir cerebros informáticos que aprendan más como los seres vivos. La IA tradicional, la que impulsa tus aplicaciones favoritas, funciona como una rígida línea de montaje de una fábrica: los datos entran por un extremo, se procesan paso a paso en perfecta sincronía y salen por el otro. Es rápida, pero es inflexible. Si el rompecabezas es fácil, la fábrica sigue funcionando a plena velocidad; si es difícil, la fábrica podría estancarse. La naturaleza, sin embargo, es desordenada y asíncrona. En un cerebro real, las señales viajan a diferentes velocidades, las neuronas se comunican entre sí en una sopa caótica de conversaciones superpuestas, y el cerebro decide cuánto tiempo pensar en algo basándose en qué tan complicado sea. Este artículo plantea una pregunta audaz: ¿Podemos construir un cerebro digital que no necesite un reloj maestro o una línea de montaje rígida, sino que aprenda mediante la evolución de una red caótica basada en el tiempo de conexiones?

Entra NeuronSoup, un nuevo tipo de arquitectura informática que abandona la línea de montaje por una bulliciosa cocina asíncrona. En lugar de capas de neuronas trabajando en perfecta sincronía, NeuronSoup utiliza un gran grupo de neuronas donde las señales flotan como ingredientes en una olla a fuego lento. Aquí está la magia: las señales no solo pasan; llegan en diferentes momentos. Si dos señales llegan a la misma neurona en el mismo instante, se mezclan. Si llegan una tras otra, la segunda señal tiene que lidiar con el "sabor" dejado por la primera. Esta mezcla crea una especie de interferencia computacional, donde el tiempo de una señal cambia el significado de la siguiente.

Los investigadores no diseñaron este proceso de mezcla a mano. En su lugar, utilizaron un algoritmo genético —un programa informático que imita la selección natural— para evolucionar todo el sistema. Comenzaron con un "genoma" (una larga lista de números) que definía 384 rutas posibles para que viajaran las señales, incluyendo qué tan rápido debían moverse (retrasos), qué tan fuertes debían ser (pesos) y qué neuronas debían visitar. A lo largo de 10,000 generaciones de evolución digital, el sistema determinó qué rutas mantener, cuáles eliminar y cómo cronometrar las señales para que la "sopa" produjera la respuesta correcta.

El resultado es una red sorprendentemente eficiente y sorprendentemente inteligente. Cuando se probó en una tarea clásica de reconocimiento de dígitos escritos a mano (el conjunto de datos MNIST), la NeuronSoup evolucionada alcanzó un 85.9% de precisión. Lo hizo utilizando un modelo diminuto que ocupa solo 115 KB de memoria —más pequeño que una sola foto de alta resolución. La red descubrió que solo necesitaba 204 rutas activas de las 384 que se le dieron, y encontró que 156 de sus neuronas ocultas eran tan útiles que eran compartidas por múltiples rutas simultáneamente. De hecho, una sola neurona estaba ocupada sirviendo a 11 rutas diferentes a la vez, actuando como una intersección concurrida donde diferentes piezas de evidencia colisionaban y se combinaban.

Lo que hace esto verdaderamente único es que el sistema descubrió cuándo pensar. Para los dígitos fáciles, las señales tomaron rutas cortas y rápidas y llegaron pronto, dando una respuesta rápida. Para los dígitos más complicados, las señales tomaron rutas más largas y sinuosas, llegando más tarde para refinar la respuesta. El sistema adaptó su propio "tiempo de pensamiento" basándose en la dificultad del problema, sin que nadie se lo dijera.

Los autores advierten cuidadosamente que esto no es una solución mágica que supere a todas las demás IA. Su sistema es actualmente menos preciso que las redes masivas basadas en gradientes (como ResNet) que dominan el campo, las cuales pueden alcanzar más del 99% de precisión en la misma tarea. Excluyen explícitamente la idea de que la "retropropagación" estándar (la forma habitual en que aprende la IA) podría funcionar aquí, porque la dependencia del sistema en el tiempo y en eventos discretos hace imposible calcular las pendientes matemáticas suaves necesarias para ese método. En su lugar, argumentan que los algoritmos genéticos son la herramienta adecuada porque pueden manejar la naturaleza desordenada y no suave de esta evolución basada en el tiempo.

Aunque la precisión es menor, el artículo sugiere una alternativa poderosa: una forma de construir IA que no necesite tarjetas gráficas masivas o estructuras rígidas. Debido a que el sistema funciona con lógica simple basada en eventos, teóricamente podría ejecutarse en hardware mucho más sencillo y de bajo consumo de energía en el futuro. Los autores sugieren que la verdadera victoria no es solo la puntuación del 85.9%, sino el hecho de que una computadora, partiendo de nada más que una sopa aleatoria de conexiones, evolucionó una estrategia compleja y sensible al tiempo para resolver problemas por sí misma. Es una prueba de que puedes construir un cerebro que piensa en el tiempo, no solo en capas.

Resumen Técnico: NeuronSoup

Planteamiento del Problema

Las arquitecturas actuales de aprendizaje profundo están fundamentalmente limitadas por el requisito de grafos de computación diferenciables y la retropropagación (backpropagation). Esto requiere un procesamiento sincrónico capa por capa con profundidades de computación fijas y topologías estáticas determinadas en el momento del diseño. En consecuencia, estos modelos no pueden adaptar naturalmente su profundidad de computación a la dificultad de los estímulos individuales, carecen de interacciones laterales inherentes entre las vías de procesamiento (a menos que se diseñen explícitamente mediante mecanismos como la atención) y están restringidos a operaciones continuas y diferenciables. Los sistemas neuronales biológicos, por el contrario, operan de forma asíncrona, utilizan neuronas compartidas que acumulan estado a lo largo del tiempo y adaptan la profundidad del procesamiento basándose en la complejidad de la señal.

Este artículo aborda el desafío de construir un clasificador útil que opere sin retropropagación, sin una profundidad de computación fija y sin sincronización, abordando al mismo tiempo las limitaciones de los enfoques existentes de neuroevolución y redes neuronales de impulsos (SNN).

Metodología: Arquitectura NeuronSoup

Los autores proponen NeuronSoup, una arquitectura de computación neuronal basada en la propagación de señales asíncronas mediada por retardos a través de un conjunto de neuronas compartidas.

Mecanismos Centrales

Simulación de Eventos Discretos Asíncronos: El sistema procesa señales de valores continuos a través de una cola de prioridad (min-heap). Los eventos se ordenan por tiempo de llegada, determinado por retardos axonales evolucionados. No existe un reloj global; la computación procede estrictamente en orden temporal.
Acumulación de Estado de Neurona Compartida: A diferencia de las redes tradicionales donde las neuronas son independientes o las SNN donde las neuronas se reinician, las neuronas ocultas en NeuronSoup mantienen un estado acumulado ( $a_n$ ). Cuando múltiples rutas pasan a través de la misma neurona oculta, la primera señal que llega actualiza el estado. Las señales subsiguientes encuentran este estado modificado. La activación se calcula como $\alpha = \tanh(a_n + b_n)$ , donde $a_n$ es la suma de todas las señales entrantes. Esto crea interferencia constructiva o destructiva basada en la polaridad de la señal y el tiempo de llegada.
Retardos Temporales como Computación: Los retardos no son ruido o regularización; son parámetros funcionales primarios que determinan el orden de combinación de características. Los retardos cortos priorizan características de alta confianza, mientras que los retardos más largos permiten que las características contextuales lleguen más tarde, modificando la salida tras el procesamiento inicial.
Codificación del Genoma: La arquitectura está codificada en un genoma plano de valores reales de 14,602 genes. Este incluye:
- Bloques de Ruta (Path Blocks): 384 rutas potenciales, cada una definida por 37 genes (bandera de actividad, ID de entrada, ID de salida y hasta 8 saltos, donde cada salto tiene un objetivo de neurona, un peso y un gen de retardo).
- Sesgos (Biases): Genes que codifican los sesgos para las neuronas ocultas y de salida.
- Decodificación: Los genes en $[0, 1]$ se mapean a valores operativos (por ejemplo, pesos en $[-2, 2]$ , retardos en $[0.1, 5.0]$ ).

Estrategia de Optimización

Los autores argumentan que la optimización basada en gradientes (retropropagación) es inaplicable debido a:

Topología Discreta: La activación de la ruta es una decisión binaria (umbralizada en 0.5).
Ordenamiento No Diferenciable: Pequeños cambios en el retardo pueden intercambiar los órdenes de procesamiento de eventos, causando cambios discontinuos en la salida.
Tamaño de Grafo Variable: El número de eventos procesados depende de la entrada y la configuración, lo que impide el desenrollado de un grafo fijo.

En su lugar, se emplea un Algoritmo Genético (GA). Los autores rechazan específicamente CMA-ES (debido a sus costos de memoria $O(D^2)$ y de computación $O(D^3)$ para $D=14,602$ ) y los operadores estándar como SBX o DE (que destruyen la coherencia estructural). Implementan un cruce consciente de rutas (path-aware crossover), que intercambia bloques de ruta completos (37 genes) en lugar de genes individuales, preservando los circuitos funcionales. La mutación aplica ruido gaussiano a los valores continuos y cambia las banderas binarias.

Contribuciones Clave

Un Nuevo Modelo de Computación: Un sistema donde los retardos temporales dictan el orden de la computación, permitiendo una profundidad adaptativa por muestra sin políticas de parada explícitas.
Interacción Lateral Emergente: Demostración de que la acumulación de neuronas compartidas produce inhibición y excitación lateral implícita entre las vías sin necesidad de conexiones cruzadas diseñadas.
Co-evolución de Estructura y Parámetros: Un genoma plano que codifica simultáneamente la topología (qué rutas/neuronas están activas), los pesos y la estructura temporal.
Análisis de Optimización: Un argumento riguroso de por qué los Algoritmos Genéticos son la herramienta correcta para esta clase de problema, destacando específicamente el fallo de CMA-ES a esta escala y la necesidad de operadores de recombinación conscientes de bloques para mantener la coherencia de la ruta.
Generalización Modular: Una arquitectura donde la tarea se define únicamente por el codificador de entrada y el recuento de neuronas de salida, dejando que el proceso evolutivo descubra el cableado automáticamente.

Resultados Experimentales

El sistema fue evaluado en la clasificación de dígitos MNIST de 10 clases utilizando características extraídas de una ResNet18 congelada (512 dimensiones) como entrada.

Rendimiento: Tras 10,000 generaciones, el mejor modelo evolucionado alcanzó un 85.9% de precisión de prueba en un conjunto de control de 1,000 muestras.
Eficiencia: El modelo entrenado ocupa 115 KB (14,602 valores float64).
Características Estructurales:
- Rutas Activas: Se activaron 204 de las 384 rutas posibles.
- Neuronas Compartidas: 156 de las 266 neuronas ocultas utilizadas fueron compartidas por múltiples rutas. Una neurona participó en 11 rutas distintas.
- Selección de Características: Solo se utilizaron 162 de las 512 características de entrada.
- Computación: La inferencia implica aproximadamente entre 500 y 2,000 eventos por muestra, requiriendo menos de 1,100 operaciones de punto flotante por imagen (comparado con ~1.8 mil millones de FLOPs de una ResNet-18).
Entrenamiento: El proceso de entrenamiento completo (10,000 generaciones) se completó en ~2 horas y 51 minutos en una CPU de 12 núcleos, sin requerir GPU.

Significado y Reivindicaciones

El artículo sostiene que NeuronSoup demuestra la viabilidad de un paradigma computacional fundamentalmente diferente: la propagación temporal asíncrona a través de un grafo compartido y evolucionado.

Superar los Límites de la Retropropagación: La arquitectura demuestra que puede emerger una clasificación útil sin diferenciabilidad, profundidad fija o sincronización. Aborda la limitación de "profundidad fija" del aprendizaje profundo al asignar naturalmente más computación a las entradas difíciles mediante rutas largas y retardadas.
Estructura Emergente: El sistema descubrió comportamientos complejos —como neuronas compartidas actuando como centros de integración y retardos temporales creando una suerte de atención por prioridad— únicamente mediante la presión de selección, sin ingeniería humana de estos mecanismos.
Implicaciones de Hardware: La arquitectura es intrínsecamente adecuada para el hardware neuromórfico y los sistemas basados en eventos, ofreciendo una eficiencia energética de órdenes de magnitud superior comparada con las arquitecturas sincrónicas de multiplicación de matrices.
Universalidad: Los autores afirman que el mismo marco evolutivo se aplica a dominios arbitrarios (audio, texto, datos médicos) simplemente cambiando el codificador y el recuento de neuronas de salida, sin necesidad de rediseñar la arquitectura.

El artículo mantiene una postura modesta respecto a la precisión, reconociendo que un 85.9% está por debajo de los modelos entrenados con gradientes (92–96%) sobre las mismas características. Sin embargo, argumenta que esta brecha refleja el costo de la optimización libre de gradientes, más que un techo arquitectónico, señalando que la curva de convergencia no muestra un plateau y que la expresividad de la arquitectura es teóricamente alta. La contribución principal es la demostración de un modelo de computación asíncrono y no diferenciable viable que escala en hardware de consumo y se generaliza a través de diversos dominios.