Parameter-Efficient Architectural Modifications for Translation-Invariant CNNs

1. Declaração do Problema

Redes Neurais Convolucionais (CNNs) são teoricamente assumidas como invariantes à translação devido ao compartilhamento de pesos e ao pooling. No entanto, arquiteturas padrão (como VGG, ResNet) exibem uma fragilidade crítica: elas dependem fortemente de camadas Totalmente Conectadas (FC) no final da rede. Essas camadas densas achatam as dimensões espaciais, criando uma dependência rígida de coordenadas absolutas de pixels.

• Consequência: Mesmo um deslocamento de um único pixel na imagem de entrada pode degradar drasticamente o desempenho de classificação ou alterar a saída.
• Mitigação Atual: O padrão da indústria é o Aumento de Dados (treinamento em recortes deslocados), o que ensina o modelo a "memorizar" a invariância em vez de impô-la estruturalmente. Isso é computacionalmente caro e trata o sintoma, não a causa raiz.
• Questão Secundária: Em Avaliação de Qualidade de Imagem (IQA), métricas padrão como LPIPS herdam essa sensibilidade, penalizando deslocamentos imperceptíveis como erros graves, o que contradiz a percepção visual humana.

2. Metodologia

Os autores propõem uma solução estrutural leve chamada estratégia "Arquitetura Online". Em vez de depender do aumento de dados, eles modificam a arquitetura da rede para desacoplar o reconhecimento de características da localização espacial.

• Mecanismo Central: Inserção estratégica de camadas de Média Global (GAP).
  • O GAP agrega as ativações de características espacialmente em todo um mapa de características, produzindo um único valor por canal. Isso remove efetivamente as coordenadas espaciais da representação de características.
• Variantes Arquiteturais (baseadas no VGG-16):
  1. Base: VGG-16 original (camadas FC intactas).
  2. Multi: Insere camadas GAP após cada operação MaxPool. Os vetores invariantes resultantes contornam as convoluções subsequentes e são concatenados antes do classificador final.
  3. Final: Substitui todo o bloco de camadas densas finais por uma única camada GAP seguida de uma camada Densa.
  4. Flat: Similar ao Multi, mas usa uma camada de Achatamento (Flatten) antes da concatenação (preserva mais informações estruturais, mas mantém uma contagem alta de parâmetros).
• Configuração Experimental:
  • Conjuntos de Dados: MNIST (para visualizar aliasing), subconjunto ImageNet-1K (benchmark de robustez) e conjuntos de dados IQA (TID08, TID13, KADID-10k, RAID).
  • Transformações: Foco principal em Translação (usando preenchimento de mosaico para evitar artefatos de preenchimento zero). Experimentos de controle incluíram rotação e escala.
  • Integração IQA: As espinhas dorsais modificadas foram integradas ao framework LPIPS (Similaridade de Patch de Imagem Perceptual Aprendida) para criar novas métricas ($L_{Multi}$, $L_{Flat}$).

3. Contribuições Principais

1. Invariância Estrutural: Demonstrou que substituir camadas FC por GAP cria um preditor invariante à translação por construção, não por aproximação.
2. Eficiência Extrema em Parâmetros: Alcançou uma redução de 98% nos parâmetros treináveis (de ~5,2M para ~82K na variante "Final") e uma redução de 90% no tamanho total do modelo, mantendo uma precisão competitiva.
3. Identificação de Limites de Aliasing: Identificou que, embora o GAP resolva a sensibilidade macroscópica, operações de pooling discretas introduzem um efeito residual periódico de aliasing. Isso impede a invariância perfeita ao nível de pixel, causando oscilações periódicas na precisão com base na magnitude do deslocamento em relação ao tamanho do kernel de pooling.
4. IQA Biologicamente Plausível: Aplicou com sucesso essas espinhas dorsais invariantes ao LPIPS, criando uma métrica que se alinha significativamente melhor com as curvas de resposta psicofísica humana do que a linha de base re-treinada padrão.

4. Resultados Principais

A. Robustez de Classificação (ImageNet)

• Precisão: Os modelos modificados mantiveram uma precisão Top-1 comparável à linha de base (ex: Final alcançou 66,4% vs. 64% da linha de base).
• Robustez: A perda relativa média devido à translação caiu de 0,09 (Base) para 0,05 (Multi) e 0,06 (Final).
• Estabilidade: O desvio padrão da precisão entre deslocamentos foi reduzido à metade (0,04 $\to$ 0,015–0,018), indicando um desempenho muito mais consistente independentemente da posição do objeto.
• Observação de Aliasing: Mapas de calor revelaram faixas verticais periódicas de maior perda em modelos de alta resolução, confirmando que o stride de pooling discreto causa sensibilidade periódica.

B. Avaliação de Qualidade de Imagem (IQA)

• Generalização: No conjunto de dados KADID-10k (distorções não vistas), a variante $L_{Flat}$ alcançou uma correlação de Spearman de 0,89, superando significativamente a linha de base LPIPS re-treinada (0,75).
• Alinhamento Psicofísico: Usando o conjunto de dados RAID, o modelo $L_{Flat}$ replicou curvas de resposta supralimiar humanas com uma correlação de Spearman de 0,95 (vs. 0,83 para a linha de base). Isso confirma que a métrica reflete corretamente a tolerância humana a deslocamentos espaciais triviais.

C. Especificidade

• As melhorias foram específicas à translação. Os modelos não mostraram robustez aprimorada à rotação ou escala; em alguns casos, performaram ligeiramente pior que a linha de base para rotação, confirmando que o GAP não resolve inerentemente todas as transformações afins.

5. Significado e Conclusão

Este trabalho desafia a dependência de aumento de dados bruto para robustez. Ele prova que restrições arquitetônicas (especificamente remover a dependência espacial via GAP) são um caminho mais eficiente e biologicamente plausível para a robustez.

• Eficiência: Demonstra que camadas Totalmente Conectadas massivas são frequentemente redundantes para tarefas que não exigem localização precisa, e sua remoção reduz drasticamente o custo computacional sem sacrificar o desempenho.
• Precisão Perceptual: Para Avaliação de Qualidade de Imagem, impor invariância à translação é crítico. A métrica proposta ($L_{Flat}$) evita penalizar deslocamentos imperceptíveis, alinhando a avaliação matemática com a percepção visual humana.
• Limitações: O estudo destaca um limite teórico fundamental: a invariância perfeita ao nível de pixel é impossível em CNNs padrão devido à amostragem discreta (aliasing) inerente às camadas de pooling, sugerindo que trabalhos futuros podem precisar abordar o anti-aliasing em operações de downsampling.

Disponibilidade: O código e os conjuntos de dados estão publicamente disponíveis no GitHub, facilitando pesquisas futuras em arquiteturas invariantes.