Resumen Técnico: Disociación de la Dependencia de la Frecuencia Espacial de las Ventajas de Robustez Adversarial en Redes Neuronales Convolucionales Profundas Guiadas Neuronalmente

Enunciado del Problema

Las Redes Neuronales Convolucionales Profundas (DCNNs) han logrado un rendimiento a nivel humano en el reconocimiento visual, pero siguen siendo notablemente vulnerables a ataques adversariales: perturbaciones casi imperceptibles que provocan clasificaciones catastróficamente erróneas. Investigaciones recientes indican que alinear las representaciones de las DCNN con la actividad de la corteza visual humana (guía neuronal) mejora significativamente la robustez adversarial. Sin embargo, el mecanismo que impulsa esta mejora no está claro.

Han surgido dos hipótesis competitivas sobre las características espectrales responsables de esta robustez:

1. Sesgo hacia Frecuencias Espaciales Bajas (LSF): La alineación neuronal podría mejorar la robustez al desplazar la dependencia de texturas de alta frecuencia frágiles hacia estructuras LSF globales y gruesas, que son más estables bajo transformación.
2. Sesgo hacia el Canal Humano: Trabajos recientes sugieren que el reconocimiento de objetos por parte de los humanos depende de un "canal humano" estrecho y de frecuencia media (aproximadamente 28–56 ciclos por imagen). Dado que los métodos previos de sesgo hacia LSF (por ejemplo, desenfoque gaussiano) preservan inadvertidamente este canal, las ganancias en robustez podrían deberse en realidad a la preservación de esta banda específica de frecuencia media en lugar de un desplazamiento general hacia LSF.

Este artículo investiga si la robustez adversarial observada en modelos guiados neuronalmente (NG) es causalmente impulsada por un aumento en la dependencia de las LSF, del canal humano, o de ambos.

Metodología

1. Caracterización de Modelos Guiados Neuronalmente (NG)

Los autores analizaron primero un conjunto de DCNNs entrenadas con "Guía Neuronal" (NG), donde la capa penúltima de la red se alineó con respuestas de fMRI de siete regiones a lo largo de la vía visual ventral humana (V1, V2, V4, VO, PHC, LO, TO).

• Métrica: La robustez adversarial se cuantificó como el Área Bajo la Curva (AUC) de la precisión top-1 bajo ataques de Descenso de Gradiente Proyectado (PGD) acotados por $\ell_\infty$ a través de diversas magnitudes de perturbación ($\epsilon$).
• Análisis Espectral: Para determinar la dependencia de la frecuencia espacial (SF), los autores generaron perturbaciones adversariales exitosas para cada modelo. Computaron el espectro de potencia de Fourier de estas perturbaciones, las promediaron radialmente y normalizaron la distribución de energía. Una mayor potencia en una banda específica indica una mayor dependencia del modelo en ese rango de frecuencias.

2. Sesgo Explícito de DCNNs mediante Desorden de Fase

Para probar la causalidad, los autores entrenaron nuevas DCNNs (ResNet-18 en ImageNet-50) con sesgos explícitos de SF utilizando aumentación de datos por desorden de fase. Este método preserva el espectro de amplitud (energía) de una imagen mientras desordena la fase de bandas de frecuencia específicas, eliminando efectivamente la información estructural de esas bandas mientras retiene otras.

• Condiciones Probadas:
  • Canal Humano: Preservó únicamente la banda de 28–56 cpi; desordenó el resto.
  • LSF Extrema: Preservó frecuencias < 3.5 cpi; desordenó el resto.
  • LSF-$\sigma$-Fija: Utilizó una máscara de desenfoque gaussiano ($\sigma=1.5$) para preservar frecuencias bajas (solapándose con el canal humano).
  • LSF-$\sigma$-Mixta: Utilizó una mezcla de núcleos gaussianos para simular una preferencia de LSF más amplia (solapándose con el canal humano).
  • Canal Combinado: Una distribución de entrenamiento que mezclaba la preservación del Canal Humano y de LSF Extrema.
  • Verificaciones de Necesidad: Se utilizaron máscaras inversas para interrumpir selectivamente (desordenar) el Canal Humano o la LSF Extrema y probar si su ausencia era única y perjudicial.

3. Análisis de Similitud Representacional (RSA)

Para determinar si el sesgo de SF por sí solo podía replicar la geometría "similar a la humana" de los modelos NG, los autores realizaron RSA. Compararon las Matrices de Disimilitud Representacional (RDMs) de los modelos con sesgo de SF contra datos de fMRI de las regiones V1, V4 y TO humanas.

Resultados Clave

1. Correlación en Modelos Guiados Neuronalmente

En los modelos NG, las ganancias en robustez se correlacionaron fuertemente con un aumento en la dependencia tanto del Canal Humano ($\rho$ de Spearman = 0.98) como de la LSF ($\rho = 0.87$). Por el contrario, la dependencia de frecuencias espaciales altas (HSF) fue anticorrelacionada con la robustez. Esto confirmó que los modelos NG desplazan su dependencia espectral hacia bandas relevantes para el humano.

2. Disociación Causal mediante Sesgo Explícito

Cuando los autores impusieron explícitamente estos sesgos durante el entrenamiento, los resultados divergieron drásticamente del comportamiento de los modelos NG:

• Sesgo hacia el Canal Humano: Sesgar explícitamente los modelos hacia el canal humano deterioró la robustez adversarial. Un sesgo más fuerte condujo a un rendimiento peor.
• Sesgo hacia LSF: Sesgar los modelos hacia la LSF (LSF Extrema, LSF-$\sigma$-Fija, LSF-$\sigma$-Mixta) produjo solo mejoras modestas en la robustez. Crucialmente, estas ganancias fueron desproporcionadamente pequeñas en comparación con los masivos desplazamientos en la dependencia de SF inducidos por la manipulación.
• Sesgo Combinado: Sesgar los modelos hacia ambos, el Canal Humano y la LSF, simultáneamente, aún resultó en una robustez peor que la línea base, lo que indica que el efecto perjudicial del sesgo hacia el Canal Humano no fue compensado por las ganancias de LSF.
• Necesidad: Interrumpir el Canal Humano redujo la robustez, pero interrumpir la LSF Extrema causó una caída mayor, lo que sugiere que el Canal Humano no es única y necesariamente necesario para la robustez.

3. Geometría Representacional

Los modelos con sesgo de SF no lograron replicar la geometría representacional del cerebro humano.

• Mientras que los modelos NG mostraron aumentos significativos en la similitud con las representaciones neuronales humanas (V1, V4, TO), los modelos con sesgo de SF mostraron poca o ninguna aumento en la similitud en comparación con la línea base.
• Incluso la condición de "Canal Combinado", que imitaba el perfil de dependencia de SF de los modelos NG, no logró mejorar la similitud representacional.

Contribuciones Clave

1. Disociación de Correlación y Causalidad: El artículo demuestra que, si bien un aumento en la dependencia del Canal Humano y de la LSF se correlaciona con la robustez en modelos guiados neuronalmente, forzar explícitamente estos sesgos es insuficiente para generar robustez. De hecho, forzar un sesgo hacia el Canal Humano es activamente perjudicial.
2. Refutación del Mecanismo del "Canal Humano": El estudio refuta la hipótesis de que la robustez de los modelos NG es impulsada por la preservación del canal humano de frecuencia media.
3. Rol Limitado de la LSF: Si bien el sesgo hacia LSF ofrece ganancias menores en robustez, no puede explicar la magnitud de las mejoras observadas en los modelos NG, ni induce una geometría representacional similar a la humana.
4. Hipótesis de Propiedad Emergente: Los autores proponen que la dependencia alterada de SF es una propiedad emergente del aprendizaje de representaciones más similares a las humanas, en lugar de ser el mecanismo causal primario de la robustez.

Significado y Afirmaciones

El artículo concluye que la robustez adversarial conferida por la guía neuronal no es impulsada principalmente por un simple desplazamiento en la dependencia de la frecuencia espacial (ni LSF ni el Canal Humano). En cambio, los autores argumentan que la robustez probablemente surge de reconfiguraciones geométricas más amplias del espacio representacional (por ejemplo, el "desenredo" de variedades de objetos) que conducen naturalmente a los sesgos espectrales observados como una consecuencia secundaria.

Los autores mantienen una postura modesta, señalando que, si bien el sesgo de SF es una propiedad parcial de las representaciones similares al cerebro, no es el mecanismo computacional primario. Sugieren que la investigación futura debería centrarse en caracterizar las transformaciones geométricas específicas en el espacio representacional que confieren robustez, en lugar de centrarse únicamente en características espectrales. También reconocen limitaciones relacionadas con el uso de aumentación de datos a nivel de población frente a los perfiles de sintonización diversos de neuronas individuales en sistemas biológicos.