Resumo Técnico: FairSAM: Classificação Justa em Dados de Imagem Corrompidos através de Minimização de Consciência de Nitidez (Sharpness-Aware Minimization)

Declaração do Problema

Redes neurais profundas treinadas em dados limpos frequentemente sofrem uma degradação de desempenho acentuada quando implantadas em dados de teste corrompidos (ex: imagens afetadas por ruído de impulso, ruído gaussiano, efeitos climáticos ou desfoque de movimento). Descobertas recentes indicam que essa degradação não é uniforme; ela afeta desproporcionalmente subgrupos demográficos específicos, amplificando o viés algorítmico. Embora métodos existentes de aprendizado robusto, como a Minimização de Consciência de Nitidez (SAM), melhorem a generalização geral e a resiliência ao ruído, eles falham em abordar a distribuição desigual da degradação de desempenho entre grupos demográficos. Por outro lado, métodos de justiça padrão muitas vezes lutam para manter a robustez sob corrupção de dados. Isso cria uma tensão inerente entre alcançar a robustez e garantir a justiça em ambientes corrompidos.

Metodologia: FairSAM

Para abordar essa tensão, os autores propõem o FairSAM, um framework que integra estratégias orientadas à justiça ao processo de otimização do SAM. A metodologia consiste em três componentes principais:

1. Nova Métrica de Justiça: Disparidade de Degradação Corrompida ($\Delta p$)

Os autores formalizam o problema introduzindo uma métrica para quantificar a justiça especificamente em relação à degradação de desempenho.

• Degradação Corrompida ($\Delta p_s$): Definida como a diferença absoluta nos métricas de desempenho entre os dados de treinamento limpos ($D_T$) e os dados de teste corrompidos ($D_C$) para um subgrupo demográfico específico $s$: $\Delta p_s = |M(D_T^{s}, f) - M(D_C^{s}, f)|$.
• Disparidade de Degradação Corrompida ($\Delta p$): A diferença absoluta na degradação entre os grupos privilegiados ($s^+$) e desfavorecidos ($s^-$): $\Delta p = |\Delta p_{s^+} - \Delta p_{s^-}|$.
  Um $\Delta p$ mais baixo indica que a robustez do modelo é distribuída de forma mais equitativa entre os subgrupos.

2. SAM com Reponderação de Instância

O SAM padrão minimiza a perda máxima dentro de uma vizinhança de parâmetros, mas trata todas as amostras igualmente, permitindo frequentemente que os grupos majoritários dominem a otimização. O FairSAM introduz um mecanismo de reponderação para equilibrar as contribuições do gradiente:

• Restrições de Grupo: O método restringe a soma dos pesos das amostras dentro de cada grupo demográfico a uma constante $c$, garantindo que cada grupo contribua igualmente para o objetivo, independentemente de seu tamanho.
• Reponderação Baseada em Nitidez (Sharpness): Dentro de cada grupo, amostras com maior nitidez por instância (maior perda máxima sob perturbação) recebem pesos maiores. Isso prioriza exemplos "difíceis" dentro de cada grupo enquanto mantém o equilíbrio ao nível do grupo.

3. Perturbação Eficiente por Lote (Per-Batch)

Para evitar o custo computacional de calcular perturbações adversariais individuais para cada amostra (o que exigiria $N$ passagens de ida por lote), o FairSAM deriva uma aproximação eficiente:

• Ele aproxima o objetivo ponderado por instância usando uma expansão de Taylor de segunda ordem.
• Ele constrói uma perda de lote ponderada $\ell_b(w) = \sum g_i \ell_i(w)$, onde os pesos $g_i$ incorporam tanto as restrições de pertencimento ao grupo quanto a nitidez da instância.
• Uma única perturbação por lote $\epsilon^*$ é computada com base no gradiente desta perda de lote ponderada, mantendo a eficiência computacional do SAM enquanto impõe restrições de justiça.

Principais Contribuições

1. Formulação do Problema: O artigo identifica e formaliza o desafio do "viés de robustez" na classificação de imagens sob corrupção de dados, destacando que métodos de robustez padrão podem inadvertidamente piorar as disparidades de justiça.
2. Proposta de Métrica: Introdução da Disparidade de Degradação Corrompida para avaliar a justiça da degradação de desempenho entre subgrupos demográficos, distinta de noções de justiça de etapa única.
3. Desenvolvimento de Framework: Proposta do FairSAM, o primeiro framework que integra estratégias de justiça ao SAM. Ele utiliza reponderação de instância e perturbação por lote para promover simultaneamente a robustez e a justiça.
4. Validação Empírica: Experimentos abrangentes demonstrando que o FairSAM alcança um compromisso superior entre precisão e justiça em comparação com os modelos de referência (baselines).

Resultados Experimentais

Os autores avaliaram o FairSAM em múltiplos conjuntos de dados do mundo real (CelebA, FairFace, LFW, CheXpert) sob vários tipos de corrupção (neve, ruído gaussiano, desfoque) e níveis de severidade.

• Compromisso entre Desempenho e Justiça: Em conjuntos de dados desbalanceados (CelebA) e equilibrados (FairFace), o FairSAM consistentemente alcançou a menor Disparidade de Degradação Corrompida ($\Delta p$) entre todos os modelos de referência, incluindo Vanilla SAM, GroupSAM, FairReg e GroupDRO.
• Preservação de Precisão: Ao contrário de alguns métodos de justiça que sacrificam a precisão geral, o FairSAM manteve uma precisão corrompida competitiva ou superior. Por exemplo, no CelebA com ruído gaussiano, o FairSAM alcançou a maior precisão corrompida (0.9291) enquanto minimizava o $\Delta p$ (0.0073).
• Robustez à Assimetria: Em experimentos onde grupos privilegiados enfrentaram ruído menos severo do que grupos desfavorecidos (ruído assimétrico), o FairSAM manteve a menor disparidade de degradação através de diferentes backbones (ResNet-18 e DINOv3).
• Generalização Fora da Distribuição (OOD): Quando modelos treinados em um conjunto de dados (ex: CelebA) foram testados em outro (ex: LFW), o FairSAM demonstrou o menor $\Delta p$, indicando uma melhor generalização equitativa em comparação com o GroupSAM, que corria o risco de transformar o grupo privilegiado em um grupo desfavorecido.
• Sensibilidade de Hiperparâmetros: O framework mostrou-se robusto às escolhas de hiperparâmetros, sendo que $\rho=0.05$ (raio de perturbação) e $c=1$ (orçamento de peso do grupo) forneceram o melhor equilíbrio.

Significância e Alegações

O artigo afirma que o FairSAM fornece uma solução estruturada para a classificação de imagens justa e robusta na presença de corrupção de dados. Sua principal significância reside em abordar um ponto cego crítico na pesquisa de robustez: a suposição de que as melhorias de robustez agregadas beneficiam todos os grupos igualmente.

Os autores argumentam que:

• A robustez e a justiça estão interconectadas; modelos robustos frequentemente exibem degradação de desempenho dispar entre grupos demográficos, o que pode perpetuar desigualdades sociais se não for abordado.
• A otimização orientada à justiça durante o treinamento pode alcançar resultados equitativos sem sacrifícios significativos na precisão geral.
• Os benefícios desta abordagem estendem-se além de conjuntos de dados desbalanceados para os equilibrados, sugerindo que as disparidades de desempenho sob corrupção são impulsionadas por vieses algorítmicos e não apenas por questões de distribuição de dados.

O trabalho posiciona-se como um passo em direção ao implante de IA mais seguro em aplicações de alto risco (ex: saúde, justiça criminal), onde os sistemas devem manter a justiça sob condições reais e ruidosas. Os autores reconhecem limitações, observando o foco atual em atributos sensíveis binários na classificação de imagens, e sugerem que trabalhos futuros explorem grupos interseccionais e outros domínios.