Drosophila Connectome Topology Provides No Measurable Language- Model Advantage: A Preregistered Negative Experimental Program

Resumen Técnico: La topología del conectoma de Drosophila no proporciona una ventaja mensurable para los modelos de lenguaje

Planteamiento del problema
El artículo aborda la cuestión empírica de si el cableado sináptico de un cerebro animal (específicamente el conectoma de Drosophila melanogaster) puede servir como un sesgo inductivo beneficioso para los modelos de lenguaje (LM). Aunque existen diagramas de cableado de todo el cerebro, no se ha demostrado si copiar o restringir redes artificiales con estas topologías biológicas mejora los objetivos de aprendizaje en relación con controles no cerebrales robustos. El estudio pretende ir más allá de las comparaciones metafóricas mediante una prueba rigurosa y preregistrada de si los operadores derivados de la mosca reducen la log-verosimilitud negativa (NLL) o mejoran el rendimiento de la recuperación en comparación con topologías vanilla, aleatorias o de grado coincidente.

Metodología
La investigación sigue un programa experimental cerrado y preregistrado utilizando modelos a pequeña escala (TinyLM) y "colas" (etapas experimentales) específicas con reglas de victoria estrictas definidas antes de la ejecución. El estudio utiliza la tabla de conectividad FlyWire v783 (aproximadamente 139,000 neuronas, 50 millones de sinapsis).

Los brazos experimentales clave incluyen:

1. Priors de grafos en Atención/Routers: Prueba de kernels de difusión "lavados" (derivados de nodos de alto grado de FlyWire con diagonales unitarias forzadas) y matrices de adyacencia "crudas" como sesgos de atención o priors de router en TinyLM.
2. Expansión Biológica Congelada como FFN: Reemplazo de la red de alimentación hacia adelante (FFN) estándar por una expansión de Neurona de Proyección del Lóbulo Antenal (ALPN) a Célula de Kenyon (KC) seguida de un mecanismo de $k$-ganador-se-lleva-todo (WTA) estricto.
3. Residual de Proyectoma Entrenable (C1-R): Implementación de una conexión residual entrenable donde la comunicación está mediada por una máscara derivada del proyectoma de la mosca. Esto siguió a una prueba degenerada inicial (C1) donde la inicialización impidió el aprendizaje.
4. Expansión como Hash de Recuperación: Prueba de la expansión ALPN $\to$ KC como un hash de sensibilidad local para la recuperación de memoria asociativa, comparándola contra expansiones aleatorias y búsquedas de coseno densas.
5. Interfaz de Engrama Silencioso: Prueba de la hipótesis del "engrama silencioso" donde los recuerdos se almacenan pero son inaccesibles hasta que una vía de señal específica (recordatorio) los restaura. Esto implicó comparar una interfaz con forma de mosca contra un selector restringido genérico para determinar si la estructura biológica ofrece ventajas únicas en almacenamiento frente a accesibilidad.
6. Persistencia del Complejo Central: Prueba de la persistencia de la orientación en el atractor de anillo del complejo central frente a criterios de atractor.

Los controles incluyeron líneas base sin grafo, grafos aleatorios de Erdős–Rényi, grafos aleatorios de grado coincidente, FFNs densas y topologías dispersas aprendidas. El éxito se definió por un margen preregistrado (típicamente 0.02 en NLL de par-token o brechas de precisión específicas) a través de múltiples semillas (usualmente 3/3).

Resultos Clave
El estudio reporta una serie de resultados negativos en todas las arquitecturas probadas:

• Priors de Grafos: Los priors de difusión lavados (matrices cercanas a la identidad) no superaron a los grafos permutados o aleatorios en las pruebas léxicas, fácticas o morfológicas. Los kernels de sintaxis crudos (64×12 y 256×12) mostraron algunas ventajas de AUROC sobre los grafos permutados pero fallaron en superar la línea base de "sin kernel" o los controles no cerebrales por el margen requerido de 0.02 en NLL de par-token.
• Expansión Congelada (FFN): Reemplazar la FFN con la expansión congelada ALPN $\to$ KC resultó en un rendimiento significativamente peor (mayor NLL) que la dispersión aleatoria, las expansiones de grado coincidente y las FFNs densas en las tres semillas.
• Proyectoma Entrenable (C1-R): Tras resolver la degeneración de la inicialización, la topología de la mosca se utilizó en la computación (norma residual relativa $\rho \approx 0.02\text{--}0.06$). Sin embargo, no proporcionó ninguna ventaja mensurable sobre las topologías vanilla, aleatorias, de grado coincidente o dispersas aprendidas en términos de Calidad, Anatomía o Especificidad.
• Hash de Recuperación: La expansión basada en la mosca como hash de recuperación (M0) funcionó peor que la expansión aleatoria con el mismo mecanismo WTA (recall@1 $\approx$ 0.31 vs 0.37) y significativamente peor que la búsqueda de coseno densa ($\approx$ 0.85).
• Engrama Silencioso: Si bien una interfaz de engrama silencioso (almacenamiento $\neq$ accesibilidad) es realizable por construcción, un operador de recuperación aprendido falló en los datos de entrenamiento. Crucialmente, un computador de expresión de "banco familiar" usando la topología de la mosca fue igualado exactamente por un selector restringido genérico (media de éxito 0.80, brecha 0), cerrando la afirmación de singularidad específica de la mosca.
• Complejo Central: La persistencia de orientación aislada no cumplió con los criterios de atractor preregistrados; el estado de la mosca se degradó más rápido que los controles.
• Contexto de Modelo de 800M: El artículo señala que un modelo de producción de 800 millones de parámetros (Mara-MoE) alcanzó una puntuación del 36.0% en una suite de opción múltiple rusa, pero establece explícitamente que esto no es un resultado del conectoma, ya que no se realizó una ablación sin el plano para este checkpoint específico.

Significancia y Reivindicaciones
La principal significancia del artículo reside en su refutación rigurosa y preregistrada de hipótesis específicas sobre la utilidad del conectoma de Drosophila como un sesgo inductivo directo para los modelos de lenguaje.

• Resultados Negativos como Disciplina: El autor enfatiza que "mejor" se define estrictamente por desigualdades preregistradas. El estudio concluye que, si bien la comunicación dispersa entrenable a nivel de familia es viable, la topología específica del proyectoma de Drosophila no proporciona ninguna ventaja mensurable de par-NLL sobre las topologías vanilla, aleatorias, de grado coincidente o dispersas aprendidas bajo las interfaces probadas.
• Límites Arquitectónicos: La expansión congelada del cuerpo de la flor no es una FFN de lenguaje superior, ni es un hash asociativo superior frente a la expansión aleatoria más WTA.
• Interfaz vs. Mecanismo: El fenómeno del "engrama silencioso" es realizable como una interfaz computacional, pero la implementación con la forma específica de Drosophila no ofrece ninguna ventaja única sobre los selectores restringidos genéricos.
• Alcance de las Reivindicaciones: El autor establece explícitamente que no afirma que los cerebros sean inútiles para el aprendizaje automático o que Drosophila no tenga algoritmos útiles. Más bien, demuestra que estos traslados específicos bajo estos jueces específicos no mejoraron los objetivos medidos. La eficiencia, la latencia y la robustez fuera de la distribución no fueron medidas y no se reclaman.

El artículo concluye que la dirección de investigación "¿existe alguna estructura computacional en este cerebro que pueda convertirse en un sesgo inductivo?" permanece abierta, pero las implementaciones específicas probadas (priors lavados, expansiones congeladas, residuales de proyectoma e interfaces de engrama silencioso) han sido respondidas negativamente.