Resumen Técnico: Codificación Eficiente a lo Largo de la Jerarquía Visual

Planteamiento del Problema

Los modelos de aprendizaje profundo alcanzan actualmente un rendimiento de vanguardia en la predicción de representaciones de la corteza visual y comportamientos visuales. Sin embargo, no logran capturar una característica fundamental de la visión biológica: la capacidad de aprender representaciones útiles a partir de datos limitados. Mientras que los sistemas biológicos se adaptan a la estructura estadística latente de los estímulos sensoriales con una experiencia mínima, el aprendizaje profundo moderno depende de actualizaciones supervisadas o autosupervisadas sobre millones o miles de millones de muestras de entrenamiento. Esta discrepancia sugiere que la visión biológica puede estar conformada por principios de aprendizaje fundamentalmente diferentes. Los autores investigan si la codificación eficiente —la teoría de que las representaciones neuronales se moldean para transmitir la máxima información sobre los estímulos naturales dadas las restricciones biológicas— puede utilizarse para construir una jerarquía profunda de características visuales alineadas con el ser humano, sin etiquetas de tareas ni retropropagación (backpropagation).

Metodología

Arquitectura del Modelo

Los autores desarrollaron una red neuronal convolucional de 11 capas basada en una arquitectura de red de dispersión (scattering network) (Guth et al., 2024). La arquitectura factoriza los pesos en componentes espaciales y de canal:

1. Filtrado Espacial Fijo: Cada capa comienza con un conjunto fijo de $N$ filtros de wavelet (específicamente, un filtro de paso bajo $\phi$ y ocho filtros de banda de paso Morlet $\psi$ en diversas orientaciones). Estos filtros detectan características de banda de paso orientadas y estructuras gruesas.
2. Mezcla de Canales Aprendida: Tras el filtrado espacial y la rectificación, una convolución de $1\times1$ aprendible mezcla la información a través de los canales.
3. Submuestreo: Cada dos capas, se emplea una convolución con paso (stride) para reducir las dimensiones espaciales por un factor de dos, aumentando el campo receptivo efectivo en las capas más profundas.
4. Normalización: Se aplican normalización por lote (batch normalization) y normalización espacial $L_2$ para asegurar salidas de media cero y varianza unitaria, y para evitar el dominio de la magnitud.

Protocolo de Aprendizaje No Supervisado (Codificación Eficiente Profunda)

La innovación central es un procedimiento de aprendizaje por capas, no supervisado, que no requiere un objetivo global, ni etiquetas, ni retropropagación:

• Estadísticas Locales: Para cada capa, se recolectan las activaciones después del filtrado de wavelet, la rectificación y el agrupamiento promedio global (global average pooling).
• Análisis de Componentes Principales (PCA): Se computa la matriz de covarianza de estas activaciones agrupadas espacialmente sobre un conjunto de imágenes naturales (ImageNet). Se extraen los $K$ autovectores superiores, que representan los modos dominantes de varianza.
• Optimización de Pesos: Estos autovectores sirven como los pesos para la convolución de $1\times1$ de la capa, comprimiendo efectivamente la entrada en un subespacio de $K$ dimensiones alineado con las estadísticas de las imágenes naturales.
• Expansión: En la capa subsiguiente, los filtros de wavelet fijos expanden esta representación comprimida por un factor de $N$.
• Justificación: Los autores eligieron PCA sobre el Análisis de Componentes Independientes (ICA) o el blanqueamiento (whitening) porque optimiza directamente para características de máxima variación (relevante para regímenes de muestreo limitados en el procesamiento de alto nivel) y proporciona soluciones únicas y globalmente óptimas.

Aprendizaje Híbrido y Evaluación

El estudio evalúa tres paradigones de entrenamiento:

1. Codificación Eficiente No Supervisada: La red se entrena únicamente mediante el procedimiento de PCA por capas.
2. Aprendizaje Supervisado Convencional: La red se entrena desde una inicialización aleatoria mediante retropropagación supervisada en tareas de clasificación de imágenes.
3. Aprendizaje Híbrido: La red se somete primero a la fase de codificación eficiente no supervisada, seguida de un ajuste fino (fine-tuning) supervisado en tareas de clasificación.

Métricas de Evaluación:

• Interpretabilidad Conductual: Participantes humanos realizaron una tarea de emparejamiento, seleccionando qué grupo de imágenes (activación alta vs. baja) coincidía con un grupo objetivo, para evaluar si los canales de la red codifican características perceptualmente significativas.
• Alineación Cerebral: Se ajustaron modelos de codificación utilizando regresión lineal regularizada para predecir las respuestas de fMRI a partir del Natural Scenes Dataset (NSD) (resolución de 7T, 8 sujetos) basándose en las activaciones de las capas de la red. El rendimiento se midió mediante la correlación entre las respuestas corticales predichas y las reales.
• Eficiencia de Datos: La precisión de clasificación en miniImageNet se midió como una función de las muestras de entrenamiento, incluyendo experimentos donde las capas tempranas fueron congeladas para probar la transferibilidad de las características no supervisadas.

Resultados Clave

1. Emergencia de Características Jerárquicas

El modelo de codificación eficiente profunda no supervisada logró aprender una jerarquía de características sin etiquetas.

• Capas de bajo nivel: Exhibieron selectividad por características simples como bordes, orientaciones y colores.
• Capas de alto nivel: Exhibieron selectividad por características complejas, incluyendo texturas, formas y objetos.
• Esta progresión ocurrió puramente a través de la aplicación jerárquica de los principios de codificación eficiente.

2. Relevancia Conductual

• Reconocimiento Humano: Los participantes pudieron identificar de manera confiable las características representadas por canales específicos de la red. El modelo no supervisado (entrenado con solo 10,000 imágenes) logró una precisión significativamente mayor ($M=0.87$) en las tareas de emparejamiento en comparación con una arquitectura no entrenada ($M=0.68$), acercándose al rendimiento de un modelo totalmente supervisado entrenado con 1 millón de imágenes ($M=0.96$).
• Tiempo de Reacción: Los tiempos de reacción estuvieron significativamente correlacionados con el rango de varianza del canal ($\rho = 0.37$). Los participantes identificaron las características de los canales con mayor varianza con mayor rapidez, lo que sugiere que la codificación eficiente organiza las representaciones de tal manera que las dimensiones estadísticamente prominentes son perceptualmente salientes.
• Necesidad de la Jerarquía: Un modelo de control que aplicaba PCA solo a la última capa (dejando las otras capas sin entrenar) funcionó significativamente peor, confirmando que la estructura jerárquica es crítica.

3. Alineación Cerebral bajo Limitaciones de Datos

• Rendimiento con Pocos Datos: Cuando se entrenó con solo 1,000 imágenes (una por categoría de ImageNet), el enfoque de aprendizaje híbrido (pre-entrenamiento no supervisado + ajuste fino supervisado) superó significativamente al aprendizaje supervisado convencional en la predicción de respuestas de fMRI en la corriente visual ventral, particularmente en las capas más profundas (capa 6+).
• Escalado de Datos: A medida que aumentaban los datos de entrenamiento a 10,000 imágenes, la brecha de rendimiento entre el aprendizaje híbrido y el convencional se redujo, aunque el aprendizaje híbrido mantuvo una ventaja sobre la línea base de solo no supervisado.
• Distribución Espacial: Los beneficios de rendimiento del aprendizaje híbrido se distribuyeron ampliamente por toda la corteza visual, no se limitaron a regiones específicas.

4. Aprendizaje de Categorías Eficiente en Datos

• Convergencia más Rápida: Los modelos híbridos requirieron menos muestras de entrenamiento supervisado para alcanzar la misma precisión de clasificación que los modelos entrenados convencionalmente en miniImageNet.
• Robustez al Congelamiento: Cuando se congelaron las capas tempranas e intermedias (hasta la capa 5) tras el pre-entrenamiento no supervisado, el modelo híbrido mantuvo una alta precisión de clasificación. En contraste, congelar las mismas capas en redes inicializadas aleatoriamente causó una caída dramática en el rendimiento.
• Categorías Limitadas: La ventaja del pre-entrenamiento no supervisado fue más pronunciada en entornos con pocas categorías y pocas muestras por categoría, facilitando el aprendizaje rápido de categorías.

Significado y Reivindicaciones

Los autores afirman que sus hallazgos sugieren que los principios de codificación eficiente pueden moldear las representaciones a lo largo de toda la jerarquía visual, no solo en el procesamiento de bajo nivel (ej. V1). El estudio propone una nueva perspectiva teórica donde la visión biológica está optimizada por una combinación de:

1. Codificación eficiente de abajo hacia arriba (bottom-up): Adaptación no supervisada a la estructura estadística de las imágenes naturales, lo que construye una base de características reutilizables y relevantes para el comportamiento.
2. Aprendizaje dirigido por objetivos de arriba hacia abajo (top-down): Refinamiento supervisado de estas representaciones para tareas conductuales específicas.

El artículo argumenta que este mecanismo híbrido explica la eficiencia de datos de la visión biológica, permitiendo el aprendizaje rápido de representaciones útiles a partir de una experiencia limitada. A diferencia de los modelos previos dirigidos por objetivos que dependen de la retropropagación de extremo a extremo, este marco demuestra que las reglas de aprendizaje locales y no supervisadas pueden esculpir representaciones jerárquicas que están alineadas neuronalmente y son relevantes para las tareas. Los autores concluyen que la codificación eficiente sirve como una inicialización poderosa para el aprendizaje supervisado, ofreciendo una solución potencial para las tareas de visión por computadora donde los datos etiquetados son escasos.