Resumo Técnico: Dissociando a Dependência de Frequência Espacial das Vantagens de Robustez Adversarial em Redes Neurais Convolucionais Profundas Guiadas Neuralmente

Declaração do Problema

Redes Neurais Convolucionais Profundas (DCNNs) alcançaram desempenho no nível humano no reconhecimento visual, mas permanecem notavelmente vulneráveis a ataques adversariais — perturbações quase imperceptíveis que causam classificações catastróficas. Pesquisas recentes indicam que alinhar as representações de DCNNs com a atividade do córtex visual humano (guia neural) melhora significativamente a robustez adversarial. No entanto, o mecanismo que impulsiona essa melhoria permanece pouco claro.

Duas hipóteses concorrentes surgiram a respeito das características espectrais responsáveis por essa robustez:

1. Viés de Baixa Frequência Espacial (LSF): O alinhamento neural pode melhorar a robustez ao deslocar a dependência de texturas de alta frequência frágeis para estruturas LSF globais e grosseiras, que são mais estáveis sob transformação.
2. Viés do Canal Humano: Trabalhos recentes sugerem que o reconhecimento de objetos humanos depende de um "canal humano" estreito e de frequência média (aproximadamente 28–56 ciclos por imagem). Como métodos anteriores de viés LSF (por exemplo, desfoque gaussiano) preservam inadvertidamente esse canal, os ganhos de robustez podem realmente decorrer da preservação dessa banda específica de frequência média, e não de uma mudança geral para LSF.

Este artigo investiga se a robustez adversarial observada em modelos guiados neuralmente (NG) é causalmente impulsionada por um aumento na dependência do LSF, do canal humano, ou de ambos.

Metodologia

1. Caracterização de Modelos Guiados Neuralmente (NG)

Os autores analisaram inicialmente um conjunto de DCNNs treinadas com "Guia Neural" (NG), onde a camada penúltima da rede foi alinhada a respostas de fMRI de sete regiões ao longo do fluxo visual ventral humano (V1, V2, V4, VO, PHC, LO, TO).

• Métrica: A robustez adversarial foi quantificada como a Área Sob a Curva (AUC) da precisão top-1 sob ataques de Descida de Gradiente Projetada (PGD) limitados por $\ell_\infty$ através de várias magnitudes de perturbação ($\epsilon$).
• Análise Espectral: Para determinar a dependência de frequência espacial (SF), os autores geraram perturbações adversariais bem-sucedidas para cada modelo. Eles computaram o espectro de potência de Fourier dessas perturbações, realizaram uma média radial e normalizaram a distribuição de energia. Maior potência em uma banda específica indica maior dependência do modelo nessa faixa de frequência.

2. Viés Explícito de DCNNs via Embaralhamento de Fase

Para testar a causalidade, os autores treinaram novas DCNNs (ResNet-18 no ImageNet-50) com vieses de SF explícitos usando aumentação de dados por embaralhamento de fase. Este método preserva o espectro de amplitude (energia) de uma imagem enquanto embaralha a fase de bandas de frequência específicas, removendo efetivamente informações estruturais dessas bandas enquanto retém outras.

• Condições Testadas:
  • Canal Humano: Preservou apenas a banda de 28–56 cpi; embaralhou o restante.
  • LSF Extrema: Preservou frequências < 3,5 cpi; embaralhou o restante.
  • LSF-$\sigma$-Fixo: Utilizou uma máscara de desfoque gaussiano ($\sigma=1,5$) para preservar baixas frequências (sobrepondo-se ao canal humano).
  • LSF-$\sigma$-Misto: Utilizou uma mistura de kernels gaussianos para simular uma preferência de LSF mais ampla (sobrepondo-se ao canal humano).
  • Canal Combinado: Uma distribuição de treinamento misturando preservação do Canal Humano e LSF Extrema.
  • Verificações de Necessidade: Máscaras inversas foram usadas para perturbar seletivamente (embaralhar) o Canal Humano ou a LSF Extrema para testar se sua ausência era unicamente prejudicial.

3. Análise de Similaridade Representacional (RSA)

Para determinar se o viés de SF sozinho poderia replicar a geometria "semelhante à humana" dos modelos NG, os autores realizaram RSA. Eles compararam as Matrizes de Dissimilaridade Representacional (RDMs) dos modelos com viés de SF contra dados de fMRI das regiões V1, V4 e TO humanas.

Principais Resultados

1. Correlação em Modelos Guiados Neuralmente

Nos modelos NG, os ganhos de robustez correlacionaram-se fortemente com o aumento da dependência tanto do Canal Humano ($\rho$ de Spearman = 0,98) quanto do LSF ($\rho = 0,87$). Por outro lado, a dependência de altas frequências espaciais (HSF) foi anticorrelacionada com a robustez. Isso confirmou que os modelos NG deslocam sua dependência espectral para bandas relevantes para humanos.

2. Dissociação Causal via Viés Explícito

Quando os autores impuseram explicitamente esses vieses durante o treinamento, os resultados divergiram drasticamente do comportamento dos modelos NG:

• Viés do Canal Humano: Viésar explicitamente os modelos em direção ao canal humano degradou a robustez adversarial. Um viés mais forte levou a um desempenho pior.
• Viés LSF: Viésar os modelos em direção ao LSF (LSF Extrema, $\sigma$-Fixo, $\sigma$-Misto) produziu apenas melhorias modestas na robustez. Crucialmente, esses ganhos foram desproporcionalmente pequenos em comparação com as enormes mudanças na dependência de SF induzidas pela manipulação.
• Viés Combinado: Viésar os modelos em direção a ambos o Canal Humano e o LSF simultaneamente ainda resultou em robustez pior que a linha de base, indicando que o efeito prejudicial do viés do Canal Humano não foi compensado pelos ganhos do LSF.
• Necessidade: Perturbar o Canal Humano reduziu a robustez, mas perturbar a LSF Extrema causou uma queda maior, sugerindo que o Canal Humano não é unicamente necessário para a robustez.

3. Geometria Representacional

Modelos com viés de SF falharam em replicar a geometria representacional do cérebro humano.

• Enquanto os modelos NG mostraram aumentos significativos na similaridade com representações neurais humanas (V1, V4, TO), os modelos com viés de SF mostraram pouco ou nenhum aumento na similaridade em comparação com a linha de base.
• Mesmo a condição "Canal Combinado", que mimetizou o perfil de dependência de SF dos modelos NG, falhou em melhorar a similaridade representacional.

Principais Contribuições

1. Dissociação de Correlação e Causalidade: O artigo demonstra que, embora o aumento da dependência do Canal Humano e do LSF correlacione-se com a robustez em modelos guiados neuralmente, forçar explicitamente esses vieses é insuficiente para gerar robustez. De fato, forçar um viés do Canal Humano é ativamente prejudicial.
2. Refutação do Mecanismo do "Canal Humano": O estudo refuta a hipótese de que a robustez dos modelos NG é impulsionada pela preservação do canal humano de frequência média.
3. Papel Limitado do LSF: Embora o viés LSF ofereça ganhos menores de robustez, ele não pode explicar a magnitude das melhorias observadas em modelos NG, nem induz uma geometria representacional semelhante à humana.
4. Hipótese de Propriedade Emergente: Os autores propõem que a alteração na dependência de SF é uma propriedade emergente do aprendizado de representações mais semelhantes às humanas, e não o mecanismo causal primário da robustez.

Significado e Afirmações

O artigo conclui que a robustez adversarial conferida pelo guia neural não é impulsionada primariamente por uma simples mudança na dependência de frequência espacial (nem LSF nem o Canal Humano). Em vez disso, os autores argumentam que a robustez provavelmente surge de reconfigurações geométricas mais amplas do espaço representacional (por exemplo, o "desemaranhamento" de variedades de objetos) que levam naturalmente aos vieses espectrais observados como uma consequência secundária.

Os autores mantêm uma postura modesta, notando que, embora o viés de SF seja uma propriedade parcial de representações semelhantes ao cérebro, não é o mecanismo computacional primário. Eles sugerem que pesquisas futuras devem focar em caracterizar as transformações geométricas específicas no espaço representacional que conferem robustez, em vez de focar exclusivamente em características espectrais. Eles também reconhecem limitações relacionadas ao uso de aumentação de dados em nível populacional versus os perfis de sintonia diversos de neurônios individuais em sistemas biológicos.