Resumen Técnico: Más allá de la Alineación de Activación: La Geometría de la Sensibilidad Neural

Enunciado del Problema

Las medidas de alineación de activación, como el Análisis de Similitud Representacional (RSA), el Análisis de Correlación Canónica (CCA) y la Alineación de Kernel Centrada (CKA), son herramientas estándar para comparar representaciones neuronales biológicas y artificiales. Estos métodos cuantifican principalmente la similitud geométrica en los patrones de actividad evocados por estímulos. Sin embargo, existe una limitación crítica: el acuerdo a nivel de lecturas globales no determina cómo un sistema utiliza la evidencia local de los estímulos. Las representaciones pueden alinearse en el espacio de activación y, sin embargo, diferir significativamente en su sensibilidad a pequeñas perturbaciones. Además, las medidas de similitud basadas en activación no son invariantes a transformaciones simples posteriores (por ejemplo, traslaciones de subconjuntos fijos seguidas de centrado global de la media), lo que puede alterar las puntuaciones de similitud sin cambiar el proceso de codificación subyacente. Si bien se han propuesto perspectivas basadas en decodificadores y enfoques de geometría local para abordar esto, a menudo no especifican cómo debe agregarse la información a través de los estímulos o qué resumen a nivel de conjunto de datos es suficiente para caracterizar las tareas de discriminación.

Metodología

Los autores proponen un marco basado en información decodificable local, centrándose en la capacidad de una representación para discriminar pequeñas perturbaciones dentro de un subespacio de coordenadas de estímulos especificado bajo ruido.

1. Tareas de Perturbación Local y Geometría de Fisher

El marco trata una representación neural como un mapa diferenciable $f: \mathbb{R}^d \to \mathbb{R}^m$. La sensibilidad local se caracteriza por la métrica de arrastre $M_f(x) = J_f(x)^\top J_f(x)$, donde $J_f$ es el Jacobiano.

• Definición de la Tarea: Una tarea de discriminación local implica distinguir entre un estímulo $s$ y un estímulo perturbado $s + \eta$ dada una actividad poblacional ruidosa. La discriminabilidad al cuadrado $d'^2$ está gobernada por la métrica de Fisher $I_{f,\psi}(s) = J_{hf}(s)^\top \Sigma^{-1} J_{hf}(s)$, donde $\Sigma$ es la covarianza del ruido.
• Resumen a Nivel de Conjunto de Datos: Para pasar de la sensibilidad puntual a una comparación a nivel de representación, los autores definen una Familia de Tareas Locales de Segundo Momento Proyectada. Al fijar una familia de coordenadas (parametrizada por $\psi$) y un subespacio de perturbación (definido por una matriz ortonormal $P$), promedian la métrica de Fisher local sobre la distribución de estímulos.
• El Operador: El resumen mínimo y completo a nivel de conjunto de datos para esta familia es el Operador de Fisher Esperado Proyectado:
  $$F_{f,\psi,P,\Sigma} := \mathbb{E}_{s \sim \nu} [P^\top J_{hf}(s)^\top \Sigma^{-1} J_{hf}(s) P]$$
  En el caso de ruido isotrópico, esto se reduce a la Métrica de Arrastre Esperada Proyectada $G_{f,\psi,P}$. Este operador caracteriza completamente la discriminabilidad esperada para cualquier familia de perturbaciones de segundo momento definida por $P$.

2. Descomposición: Ganancia y Forma

Los autores descomponen el operador de resumen en:

• Ganancia ($\gamma$): La sensibilidad total esperada (traza del operador).
• Forma ($\hat{G}$): La asignación direccional de la sensibilidad (operador normalizado por traza).
  Esto permite comparar representaciones basadas en la sensibilidad total frente a las direcciones específicas en el espacio de estímulos que amplifican o suprimen.

3. Métrica de Comparación: S-RAS

Para comparar estos resúmenes definidos positivos (SPD), los autores emplean la Métrica Riemanniana Invariante Afín (AIRM) en la variedad de matrices SPD. Definen la Puntuación de Alineación Riemanniana Espectral (S-RAS):
$$S\text{-}RAS_P(f, g) = \exp\left[ -\frac{1}{\sqrt{k}} d_{AIRM}(\tilde{G}_{f,P}, \tilde{G}_{g,P}) \right]$$
donde $\tilde{G}$ es un levantamiento SPD escalado por traza utilizado para la regularización. El análisis teórico muestra que S-RAS proporciona un certificado multiplicativo uniforme sobre la familia de valores de tareas levantadas, acotando el desacuerdo en la discriminabilidad esperada entre dos representaciones.

Contribuciones Clave

1. Formalización de la Discriminación Local: El artículo define tareas de discriminación de perturbaciones locales de segundo momento e identifica al operador de Fisher/arrastre esperado proyectado como el resumen mínimo y completo a nivel de conjunto de datos para estas tareas.
2. Métrica S-RAS: Introduce un método de comparación consciente de la geometría (S-RAS) utilizando la distancia espectral logarítmica en matrices SPD, proporcionando una puntuación de similitud normalizada por dimensión con garantías teóricas sobre los límites de los valores de las tareas.
3. Validación Empírica: El marco se valida en sistemas artificiales y biológicos, demostrando utilidad en la correspondencia de capas, sondas transferibles, análisis de entrenamiento robusto y datos biológicos.

Resultados Experimentales

1. Emparejamiento de Capas (Redes Artificiales)

Utilizando CNNs Tiny10 entrenadas independientemente, los autores probaron si S-RAS podía recuperar la correspondencia de capas esperada.

• Resultados: S-RAS logró una correspondencia significativa (85.3% de precisión en $K=768$ con perturbaciones aleatorias; 93.8% con PCA blanqueada), acercándose al rendimiento de fuertes líneas base de activación como CKA lineal (94.4%).
• Comparación: S-RAS superó a los controles de geometría local puntual (AIRM puntual y líneas base estilo MSA), lo que indica que agregar operadores de familias de tareas esperadas es superior a promediar discrepancias de métricas puntuales.

2. Sondas Condicionales por Clase Transferibles

Los autores probaron si los contrastes de sensibilidad podían externalizarse en perturbaciones finitas que se generalizaran a imágenes y modelos retenidos.

• Resultados: Las sondas derivadas de contrastes de sensibilidad condicionales por clase (comparando ResNet-18 y Small ViT) produjeron una separación de imágenes retenidas significativamente mayor (1.10) en comparación con los controles de contraste aleatorio (0.43), sensibilidad agrupada (0.31) y permutación de etiquetas (0.03). Esto sugiere que el método captura estructuras de evidencia local compartidas que se transfieren entre modelos.

3. Disociaciones en Entrenamiento Robusto

Utilizando bancos de ResNet-18 entrenados con ERM, PGD, TRADES y MART, los autores examinaron si el marco podía distinguir regímenes de entrenamiento.

• Resultados: Las sondas derivadas de contrastes separaron con éxito los modelos estándar de los modelos robustos (PGD, TRADES, MART) en imágenes retenidas. El método también reveló diferencias sutiles entre objetivos de entrenamiento robusto (por ejemplo, separando PGD de TRADES), mostrando que las sondas son sensibles a cambios específicos en el uso de evidencia local y no solo a diferencias de régimen.

4. Aplicación Biológica (Observatorio Cerebral Allen)

El marco se aplicó a datos de la corteza visual de ratones utilizando rejillas estáticas con coordenadas $(\theta, \rho, \phi)$.

• Resultados: En el emparejamiento de identidad entre áreas, el resumen de Fisher Completo consciente del ruido logró una precisión top-1 de 0.458, superando significativamente a CKA (0.288) y a la geometría ingenua. En el benchmark más difícil de profundidad VISp, Fisher Completo (0.466) permaneció competitivo con CKA (0.483).
• Perspectiva: Los resultados indican que la estructura de sensibilidad biológica depende tanto de la sensibilidad total consciente del ruido como de la asignación direccional. La elección de la familia de coordenadas de estímulos (por ejemplo, $\rho + \phi$ frente al conjunto completo) impacta significativamente el rendimiento de emparejamiento, destacando la naturaleza "relativa a la familia" de la métrica.

Significado y Afirmaciones

El artículo afirma que las comparaciones basadas en activación son más informativas para la organización evocada por estímulos o la estructura de lectura aguas abajo, pero son insuficientes para determinar si las representaciones dependen de la misma evidencia local de estímulos. El marco propuesto ofrece una perspectiva complementaria al preguntar si dos representaciones hacen que las mismas pequeñas direcciones de estímulos sean discriminables en promedio.

Las afirmaciones clave incluyen:

• Similitud Relativa a la Familia: El acuerdo se define en relación con una familia de perturbaciones específica; las representaciones pueden alinearse bajo una familia pero no bajo otra.
• Robustez ante Transformaciones: Dado que el método depende de Jacobianos y no de nubes de puntos de activación, es insensible a desplazamientos posteriores constantes con respecto al estímulo (por ejemplo, centrado global de la media), abordando una limitación conocida de CKA.
• Utilidad Empírica: El marco recupera con éxito la correspondencia de capas, genera sondas diagnósticas transferibles, revela disociaciones en el entrenamiento robusto y descubre sensibilidad dependiente de la familia en datos biológicos.

Los autores permanecen modestos, señalando que el marco es local, a nivel de conjunto de datos y basado en segundos momentos. No captura óptimos condicionados por la imagen, efectos de orden superior o comportamientos de perturbaciones finitas fuertemente no lineales. Concluyen que se necesitan benchmarks más amplios para determinar cuándo la geometría de sensibilidad a nivel de conjunto de datos proporciona una perspectiva científica distintiva en comparación con los métodos existentes.