🧬 biology

Supervised Training Rapidly Degrades Early Visual Cortex Alignment Across Biologically Plausible Learning Rules

Este estudio demuestra que el entrenamiento supervisado degrada rápidamente la alineación entre las redes neuronales artificiales y la corteza visual temprana humana, de modo que las reglas de aprendizaje basadas en errores globales como la retropropagación causan una disrupción significativamente mayor que las reglas locales biológicamente plausibles como la codificación predictiva y la DTPE, lo que sugiere que las arquitecturas no entrenadas capturan inherentemente las estadísticas visuales de bajo nivel a través de sesgos inductivos.

Autores originales: Nils Leutenegger

Publicado 2026-06-01

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Nils Leutenegger

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Esta es una explicación generada por IA de un preprint que no ha sido revisado por pares. No es consejo médico. No tome decisiones de salud basándose en este contenido. Leer descargo de responsabilidad completo

La gran sorpresa: las "pizarras en blanco" se parecen más a los cerebros que las "entrenadas"

Imagina que tienes un cerebro de computadora nuevo y sin entrenar (una red neuronal). Es solo un montón de conexiones aleatorias, como una caja de auriculares enredados. Sorprendentemente, cuando le muestras imágenes, sus "pensamientos" (patrones internos) se parecen mucho a cómo reacciona un cerebro humano (específicamente la parte que ve formas y líneas simples, llamada V1) ante esas mismas imágenes.

Ahora, imagina que empiezas a entrenar a este cerebro de computadora para reconocer objetos (como gatos, coches o sillas). Esperarías que, a medida que se vuelve más inteligente en su trabajo, empezara a pensar más como un cerebro humano.

El hallazgo impactante del artículo es lo contrario: Tan pronto como empiezas a entrenar a la computadora, esta deja de pensar como un cerebro humano. De hecho, cuanto más la entrenas, menos se parece a la parte temprana del sistema visual humano.

El experimento: cuatro formas diferentes de aprender

El investigador, Nils Leutenegger, quería ver por qué sucede esto. Probó cuatro diferentes "reglas de aprendizaje" (métodos de cómo la computadora actualiza su cerebro). Piensa en esto como cuatro estilos de enseñanza diferentes:

Backpropagation (BP): El método estándar y súper eficiente utilizado en la mayoría de la IA actual. Es como un profesor estricto que sabe la respuesta exacta para cada estudiante y envía un mensaje de corrección preciso hasta el principio de la clase.
Feedback Alignment (FA): Un método un poco más "biológico" donde los mensajes de corrección son algo desordenados y aleatorios, como un profesor gritando correcciones por un pasillo sin saber exactamente quién está escuchando.
Predictive Coding (PC): Un método donde el cerebro intenta adivinar qué vendrá después y solo aprende de los errores. Es como un estudiante que solo presta atención cuando su predicción es incorrecta.
STDP: Un método basado en el tiempo, donde las conexiones se fortalecen solo si dos neuronas se activan en el mismo instante. Es como una regla de vecindario local: "Si tú y tu vecino hacen lo mismo al mismo tiempo, nos hacemos amigos".

¿Qué pasó? El "colapso de un segundo"

El investigador observó cómo estas computadoras aprendían durante 40 rondas (épocas) de entrenamiento. Esto es lo que encontró:

1. El "Profesor Estricto" (Backpropagation) es el más destructivo
Cuando la computadora utilizó el método estándar de Backpropagation, su semejanza con la parte temprana del cerebro visual humano (V1) cayó un 90% en una sola ronda de entrenamiento.

La analogía: Imagina a un escultor (la IA) que comienza con un bloque de mármol que ya se parece vagamente a un rostro humano (los pesos aleatorios). El "Profesor Estricto" le dice al escultor: "Necesitas hacer que esto parezca un gato específico, no un rostro humano". El escultor inmediatamente cincela las características humanas para enfocarse totalmente en el gato. El resultado es una gran estatua de un gato, pero ya no se parece en nada a un rostro humano.

2. Los "Aprendices Locales" (Predictive Coding y STDP) se mantienen
Las computadoras que usaban las reglas de aprendizaje más biológicas y locales (PC y STDP) también perdieron algo de semejanza con el cerebro humano, pero perdieron mucho menos (solo un 25–30%).

La analogía: Estos escultores reciben la orden de hacer un gato, pero solo se les permite hacer pequeños ajustes locales basados en lo que ven justo frente a ellos. Logran hacer un gato, pero accidentalmente mantienen algunas de las características originales del "rostro humano" del bloque de mármol intactas.

3. El intercambio: Visión temprana vs. Reconocimiento de objetos
Hubo un giro en las partes superiores del cerebro (el área que reconoce objetos complejos, llamada LOC).

El "Profesor Estricto" (Backpropagation) destruyó la similitud de la visión temprana, pero de hecho mejoró la similitud en el área de reconocimiento de objetos.
Los "Aprendices Locales" mantuvieron la similitud de la visión temprana, pero no lograron desarrollar habilidades sólidas de reconocimiento de objetos.
La conclusión: Parece ser un intercambio. Para volverse realmente bueno reconociendo objetos específicos (como un gato), la IA tiene que sacrificar la forma general y humana de ver líneas y formas simples. El "Profesor Estricto" fuerza este intercambio de manera agresiva; los "Aprendices Locales" son demasiado suaves para realizar el cambio.

¿Por qué es esto importante?

El artículo sugiere que la razón por la cual las computadoras aleatorias y no entrenadas se parecen a los cerebros humanos no es porque estén "aprendiendo" a hacerlo, sino porque su estructura básica (la forma en que están construidas) captura naturalmente las estadísticas del mundo visual, tal como lo hace nuestro V1.

Cuando las entrenamos para una tarea específica, las obligamos a cambiar esa estructura natural. Cuanto más "global" y precisa es la regla de aprendizaje (como Backpropagation), más agresivamente borra la estructura similar al cerebro para dar lugar a las habilidades específicas de la tarea.

Resumen en pocas palabras

Antes del entrenamiento: Los cerebros de IA aleatorios se parecen sorprendentemente a los cerebros humanos.
Después del entrenamiento: Dejan de parecerse a los cerebros humanos.
El culpable: La forma en que entrenamos la IA actualmente (Backpropagation) es la más rápida en destruir esta cualidad "similar al cerebro".
La lección: La naturaleza podría no utilizar el método del "Profesor Estricto" (Backpropagation) porque destruye la estructura natural del cerebro demasiado rápido. En su lugar, el cerebro podría utilizar "Aprendices Locales" (como el Predictive Coding) que preservan la forma natural del cerebro mientras intentan aprender.

Nota importante: El artículo no afirma que esto signifique que la IA sea inútil, ni sugiere que debamos dejar de entrenar la IA. Simplemente señala una diferencia fundamental entre cómo aprenden nuestros cerebros y cómo aprende la IA actual, específicamente en relación con cómo manejan las etapas tempranas de la visión.

Resumen Técnico: El entrenamiento supervisado degrada rápidamente la alineación de la corteza visual temprana bajo reglas de aprendizaje biológicamente plausibles

Planteamiento del problema
Aunque se sabe que las redes neuronales profundas (DNN) entrenadas en tareas visuales desarrollan representaciones que correlacionan con la corteza visual de los primates, un hallazgo contraintuitivo sugiere que las redes no entrenadas, con inicialización aleatoria, a menudo igualan o superan a las redes entrenadas en cuanto a su alineación con áreas visuales tempranas, particularmente V1. Esto desafía la suposición de que el aprendizaje mejora intrínsecamente la alineación con el cerebro. La pregunta central abordada es si el aprendizaje mejora o erosiona esta alineación, y cómo diferentes reglas de aprendizaje —que van desde las biológicamente implausibles hasta las plausibles— afectan estas dinámicas a lo largo del entrenamiento.

Metodología
El estudio investiga la evolución de la similitud representacional entre redes neuronales y datos de fMRI humana a través del entrenamiento.

Arquitectura: Se utilizó una arquitectura convolucional compartida (tres bloques convolucionales seguidos de una capa totalmente conectada) para todas las condiciones con el fin de aislar los efectos de las reglas de aprendizaje.
Reglas de aprendizaje: Se implementaron cuatro reglas distintas:
1. Backpropagation (BP): Entrenamiento supervisado estándar con descenso de gradiente exacto.
2. Feedback Alignment (FA): Utiliza pesos de retroalimentación aleatorios fijos para el paso hacia atrás en lugar de los pesos transpuestos de la ida.
3. Codificación Predictiva (PC): Utiliza errores de predicción locales y refinamiento iterativo.
4. Plasticidad Dependiente del Tiempo de Disparo (STDP): Actualiza los pesos basándose en las correlaciones de tiempo de disparo en trenes de pulsos de Poisson.
Protocolo de entrenamiento: Los modelos fueron entrenados durante 40 épocas en un subconjunto de CIFAR-10 (8,000 imágenes). Las activaciones se extrajeron en ocho puntos de control (épocas 0, 1, 2, 5, 10, 20, 30, 40) a través de cinco semillas aleatorias.
Evaluación: Se realizó un Análisis de Similitud Representacional (RSA) utilizando 720 imágenes de objetos de la base de datos THINGS. Las Matrices de Disimilitud Representacional (RDM) del modelo se compararon con las RDM de fMRI de tres sujetos humanos en seis Regiones de Interés (ROI) visuales: V1, V2, V3, V4, LOC e IT. La alineación se cuantificó mediante la correlación de rango de Spearman.
Análisis estadístico: Se realizaron pruebas de permutación emparejadas y de una sola cola a través de las cinco semillas. Debido al número limitado de semillas ( $n=5$ ), el valor $p$ de una sola cola mínimo alcanzable es $\approx 0.031$ .

Resultados clave

Degradación universal en la corteza visual temprana: Todas las reglas de aprendizaje resultaron en una reducción de la alineación con V1 tras solo una época de entrenamiento. Sin embargo, la magnitud de la degradación varió significativamente:
- Backpropagation (BP): Mostró la degradación más severa, perdiendo el 90% de su alineación inicial con V1 tras una sola época ( $r$ cayó de 0.102 a 0.011).
- Feedback Alignment (FA): Mostró una caída intermedia del 49%.
- Codificación Predictiva (PC) y STDP: Preservaron sustancialmente más la alineación, perdiendo solo un 25% y un 31% respectivamente. Para la época 40, PC y STDP retuvieron una alineación con V1 significativamente mayor que BP o FA.
Generalización a través de áreas tempranas: El patrón de degradación observado en V1 se extendió a V2 y V3, siendo BP consistentemente el que mostró las mayores caídas. El efecto se atenuó en V4.
Tendencia opuesta en la corteza selectiva de objetos: En el Complejo Occipital Lateral (LOC), se observó una tendencia débil y opuesta. BP mostró el mayor incremento de alineación durante el entrenamiento (de $r \approx 0$ a $r \approx 0.011$ ), mientras que las reglas locales (PC, STDP) mostraron cambios insignificantes. Los autores señalan que estos cambios en el LOC son pequeños en términos absolutos y no fueron sometidos a pruebas de significancia, tratándolos como una tendencia sugestiva.
Variabilidad de las semillas: Las diferencias entre las reglas de aprendizaje fueron sistemáticas y consistentes a través de las semillas, en lugar de fluctuaciones aleatorias.

Significado y afirmaciones
El artículo afirma que el entrenamiento supervisado degrada universalmente la alineación de las representaciones de la corteza visual temprana, pero la severidad de esta degradación depende sistemáticamente de la regla de aprendizaje.

Sesgos inductivos vs. Aprendizaje: Los resultados sugieren que las arquitecturas no entrenadas capturan estadísticas visuales de bajo nivel inherentes a su arquitectura (filtros convolucionales, pooling, normalización) en lugar de a través del aprendizaje. El entrenamiento remodela estas representaciones hacia características relevantes para la tarea, alejándolas de las estadísticas de propósito general codificadas por V1.
Señales de error globales vs. locales: El grado de degradación se correlaciona con la "globalidad" de la señal de error. Las reglas que propagan gradientes precisos y específicos de cada capa (BP) son más destructivas para la estructura visual temprana que las reglas de aprendizaje local (PC, STDP), las cuales preservan mejor la estructura similar a la del cerebro.
Compromiso representacional: Las tendencias opuestas en V1 (degradación) y LOC (ligero incremento para BP) sugieren un compromiso (trade-off). La señal de error global en BP puede degradar simultáneamente la estructura visual temprana mientras construye representaciones de objetos relevantes para la tarea en capas superiores. Por el contrario, las reglas locales preservan la alineación con V1 pero no logran desarrollar representaciones fuertes alineadas con el LOC, lo que sugiere que la asignación de crédito local por sí sola puede ser insuficiente para construir representaciones jerárquicas de objetos.
Implicaciones para el aprendizaje cortical: Los hallazgos resaltan una tensión entre la optimización de la tarea y la similitud representacional con el cerebro. El cerebro parece mantener representaciones fuertes de V1 mientras desarrolla la selectividad de objetos en áreas superiores; una combinación que ninguna de las reglas probadas logró alcanzar perfectamente. Esto implica que los mecanismos de aprendizaje biológico pueden requerir un enfoque más matizado que cualquier regla única probada aquí, potencialmente combinando la preservación local con la asignación de crédito jerárquica.

Limitaciones reconocidas
Los autores señalan diversas limitaciones: el uso de una arquitectura simple (3 conv + 1 FC) en lugar de redes más profundas; el cambio de dominio entre el entrenamiento en CIFAR-10 y la evaluación en THINGS; las aproximaciones simplificadas de STDP y PC biológicos; un tamaño de muestra de fMRI pequeño (tres sujetos); y una resolución estadística limitada debido al diseño de cinco semillas. Además, los valores de correlación absolutos son pequeños ( $r < 0.10$ ), lo que deja abierta la cuestión de su significancia práctica para el procesamiento neuronal descendente.

La gran sorpresa: las "pizarras en blanco" se parecen más a los cerebros que las "entrenadas"

El experimento: cuatro formas diferentes de aprender

¿Qué pasó? El "colapso de un segundo"

¿Por qué es esto importante?

Resumen en pocas palabras

Más como este