Resumen Técnico: Navegando con Simplicidad, Alineando con Profundidad

Declaración del Problema

El artículo aborda la "brecha de robustez" en los agentes artificiales, donde los sistemas de aprendizaje por refuerzo profundo (RL) suelen fallar al encontrar perturbaciones visuales fuera de su distribución de entrenamiento, a diferencia de los sistemas biológicos (específicamente los ratones) que mantienen una navegación estable bajo diversas condiciones. Los autores participaron en la Competencia de Forrajeo Visual Ratón vs. IA de NeurIPS 2025, la cual evalúa a los agentes en dos pistas distintas y complementarias:

1. Pista 1 (Robustez Visual): Mide la generalización ante perturbaciones visuales no incluidas en el entrenamiento (por ejemplo, niebla, cambios de iluminación) utilizando un promedio ponderado de la Tasa de Éxito Promedio (ASR) y la Tasa de Éxito Modificada (MSR).
2. Pista 2 (Alineación Neuronal): Evalúa qué tan bien las representaciones visuales internas de un agente predicen la actividad neuronal registrada de más de 19,000 neuronas en la corteza visual del ratón durante la misma tarea, utilizando métricas de lectura lineal $R^2$.

El desafío central reside en la tensión entre estos objetivos: la robustez conductual suele favorecer la abstracción de las estadísticas de bajo nivel, mientras que la alineación neuronal puede requerir la preservación de la estructura detallada del estímulo.

Metodología

Los autores, el Equipo HCMUS_TheFangs, abandonaron la sabiduría convencional de que las tareas visuales complejas requieren arquitecturas correspondientemente complejas. En su lugar, buscaron un enfoque de doble estrategia, desarrollando arquitecturas distintas optimizadas para los requisitos específicos de cada pista.

Pista 1: Arquitectura Ligera para la Robustez

Para la robustez visual, el equipo desarrolló una arquitectura SimpleCNN que prioriza la simplicidad para prevenir el sobreajuste.

• Arquitectura: Un núcleo convolucional de dos capas con un submuestreo espacial agresivo (núcleo de 8×8, estiramiento/stride 4; seguido de un núcleo de 4×4, estiramiento 2).
• Mejoras:
  • Unidades Lineales con Compuerta (GLU): Un módulo que utiliza la activación Swish para la transformación de características y la función sigmoide para la compuerta, permitiendo un flujo de información selectivo para suprimir componentes sensibles al ruido.
  • Normalización de Observaciones: Estadísticas de ejecución (promedio móvil exponencial) aplicadas a las entradas para asegurar la invarianza ante cambios en la iluminación global.
• Entrenamiento: Una estrategia de dos fases donde el núcleo se entrena primero, seguido de la adición del módulo GLU.

Pista 2: Arquitectura Profunda para la Alineación Neuronal

Para la alineación neuronal, el equipo empleó una arquitectura tipo ResNet profunda diseñada para capturar representaciones jerárquicas que reflejan la corteza visual biológica.

• Arquitectura: 16 capas convolucionales organizadas en bloques residuales con expansión progresiva de canales (64 → 128 → 256 → 512).
• Mecanismo: Incorpora la compuerta basada en GLU para el enrutamiento adaptativo de características. El modelo contiene 17.8 millones de parámetros, significativamente mayor que el modelo de la Pista 1 (1.4M).
• Entrenamiento: Experimentación extensiva con duraciones de entrenamiento que van desde 60K hasta 1.14M de pasos, guardando puntos de control (checkpoints) cada 20K pasos para analizar la relación entre el tiempo de entrenamiento y el rendimiento.

Enfoques Fallidos

El artículo documenta sistemáticamente varios enfoques que tuvieron un desempeño inferior:

• InceptionNet: No logró converger en absoluto.
• ResNet Profunda (24 capas): Logró un alto rendimiento de entrenamiento pero sufrió una caída del 35% en su desempeño bajo perturbaciones debido a un severo sobreajuste.
• Integración de LSTM: Causó inestabilidad en el entrenamiento y colapso del rendimiento, probablemente debido a la destrucción de la estructura espacial 2D.
• Aumento de Datos Naive: Sorprendentemente, disminuyó el rendimiento (de 87.7% a 59.8%) al introducir desajustes en la distribución.

Resultados Clave

Pista 1: Robustez Visual

La arquitectura ligera SimpleCNN con GLU y normalización logró un puntaje final de 95.4%, asegurando la primera posición.

• Ablación: La normalización de observaciones proporcionó la mayor ganancia (+3.8%), seguida de GLU (+0.2%).
• Comparación: El modelo base ResNet de 24 capas obtuvo solo 65.98%, resaltando que el aumento de la profundidad perjudica la generalización en este contexto. La SimpleCNN mantuvo una brecha mínima entre ASR (96.80%) y MSR (94.00%), mientras que la ResNet profunda tuvo una brecha de 30 puntos.

Pista 2: Alineación Neuronal

La arquitectura ResNet profunda alcanzó el rendimiento de primer lugar (Puntaje: 0.1517) en las métricas de alineación neuronal.

• Capacidad: El modelo de 17.8M de parámetros superó significativamente a la SimpleCNN ligera (Puesto 13, Puntaje: 0.1451), demostrando que capturar representaciones biológicas requiere una capacidad sustancial de modelo.
• Entrenamiento No Monotónico: Un hallazgo crítico fue la relación no monotónica entre la duración del entrenamiento y el rendimiento. El punto de control óptimo surgió alrededor de los 200K pasos (Puesto 2), desempeñándose casi tan bien como el modelo entrenado durante 1.14M de pasos (Puesto 1). Los modelos entrenados durante duraciones intermedias (por ejemplo, 520K pasos) funcionaron peor que aquellos entrenados durante duraciones muy cortas (80K pasos), lo que sugiere que el entrenamiento prolongado puede conducir al sobreajuste o al olvido catastrófico incluso en tareas de alineación neuronal.

Contribuciones Clave

1. Simplicidad Arquitectónica para la Robustez: Demostró que una CNN ligera de dos capas con mejoras específicas (GLU, normalización) supera significativamente a las redes profundas complejas para la robustez visual, desafiando las suposiciones sobre los requisitos de los modelos para tareas visuomotoras.
2. Capacidad para la Alineación Neuronal: Mostró que, si bien los modelos simples sobresalen en robustez conductual, las arquitecturas más profundas con mayor capacidad son necesarias para lograr una alineación neuronal superior, reflejando la complejidad jerárquica del procesamiento visual biológico.
3. Documentación de Fallos: Proporcionó un análisis exhaustivo de los enfoques fallidos (InceptionNet, ResNet profunda, LSTM, aumento de datos naive), ofreciendo orientación práctica sobre cómo evitar errores comunes en el RL visual robusto.
4. Análisis de la Dinámica de Entrenamiento: Reveló una relación no monotónica entre la duración del entrenamiento y el rendimiento, identificando que los puntos de control óptimos suelen emerger mucho antes de la convergencia (alrededor de los 200K pasos).

Significado y Reivindicaciones

El artículo afirma ofrecer orientación práctica para desarrollar agentes visuales robustos e inspirados biológicamente al desafiar las suposiciones convencionales sobre la complejidad del modelo. Los autores argumentan que la competencia conductual no implica necesariamente la plausibilidad biológica; las arquitecturas óptimas para sobrevivir a las perturbaciones visuales difieren fundamentalmente de aquellas requeridas para imitar la actividad neuronal.

Al demostrar que "lo simple es mejor" para la robustez, mientras que "lo profundo es mejor" para la alineación, el trabajo sugiere que los objetivos de robustez y plausibilidad biológica pueden estar en tensión, requiriendo elecciones arquitectónicas distintas. Los hallazgos enfatizan la importancia de los sesgos inductivos apropiados para la tarea y el valor de un análisis sistemático de los puntos de control por encima del entrenamiento hasta la convergencia.