Benchmarking Stochastic Approximation Algorithms for Fairness-Constrained Training of Deep Neural Networks

Título: Benchmarking de Algoritmos de Aproximação Estocástica para Treinamento de Redes Neurais Profundas com Restrições de Justiça

1. Problema e Motivação

O treinamento de Redes Neurais Profundas (DNNs) com restrições é fundamental para mitigar vieses e melhorar a justiça em modelos de aprendizado de máquina. Embora existam diversas legislações (como o AI Act da UE) exigindo a remoção de vieses, não há um consenso sobre a definição correta de viés ou um método padrão amplamente aceito para treinar DNNs sob restrições.

O problema central abordado é a Minimização de Risco Empírico (ERM) com Restrições, formulada como:
$$\min_{x \in \mathbb{R}^n} \mathbb{E}[f(x, \xi)] \quad \text{s.t.} \quad \mathbb{E}[c(x, \zeta)] \leq 0$$
Onde:

• $f$ é a função de perda (objetivo).
• $c$ representa as restrições de justiça (diferença de risco entre subgrupos).
• $\xi$ e $\zeta$ são variáveis aleatórias.

Desafios Técnicos:

• Não-convexidade e Não-suavidade: Devido à presença de DNNs e funções de perda como ReLU ou hinge loss.
• Escala: Grandes conjuntos de dados e múltiplas restrições (até bilhões de subgrupos protegidos possíveis).
• Restrições Estocásticas: A necessidade de lidar com desigualdades estocásticas, não apenas igualdades.
• Falta de Ferramentas: Não existe um toolkit unificado para comparar algoritmos que lidam com esse cenário geral.

2. Metodologia

Os autores propõem um benchmark rigoroso baseado em dados reais do censo dos EUA (conjunto de dados Folktables/ACSIncome) e implementam/comparam três algoritmos recentes de aproximação estocástica que ainda não haviam sido implementados em contextos práticos de DNNs.

2.1. O Benchmark

• Dados: Utiliza o ACSIncome (previsão de renda > $50k) com atributos protegidos como raça (binarizado) e estado civil (multivalorado).
• Definição de Justiça: Implementa restrições baseadas na diferença de perda (loss) entre subgrupos, cobrindo métricas de Independência (Paridade Demográfica), Separação (Odds Igualdade) e Suficiência.
• Implementação: Um pacote Python que permite a construção automática de formulações ERM a partir de grafos de computação do PyTorch/TensorFlow.

2.2. Algoritmos Analisados

O estudo foca em três algoritmos que tentam resolver o problema (5) acima, comparando-os com baselines (SGD padrão e SGD com regularização de justiça):

1. Stochastic Ghost (StGh):

   • Combina um método determinístico (Ghost penalties) com amostragem estocástica.
   • Resolve um subproblema quadrático para obter uma direção de busca, utilizando mini-lotes para estimar gradientes e restrições.
   • Usa uma estratégia de "fantasma" para expandir a região de viabilidade.

2. Stochastic Smoothed and Linearized AL Method (SSL-ALM):

   • Baseado no Método dos Multiplicadores de Lagrange Aumentados (AL).
   • Utiliza uma função de Moreau (suavização) e linearização das restrições.
   • Vantagem: Não requer mini-lotes grandes; atualiza variáveis primais e duais iterativamente.

3. Stochastic Switching Subgradient (SSw):

   • Utiliza subgradientes em vez de gradientes (adequado para funções não-suaves).
   • Alterna entre atualizações baseadas no objetivo (se a restrição for satisfeita) e atualizações baseadas na restrição (se violada).
   • Usa tolerâncias de inviabilidade decrescentes.

3. Contribuições Principais

1. Revisão Bibliográfica: Uma análise detalhada dos algoritmos existentes para ERM com restrições, destacando a lacuna em métodos com garantias teóricas para o cenário geral (não-suave, não-convexo, com restrições estocásticas).
2. Toolbox de Benchmarking: Desenvolvimento de um pacote Python que implementa quatro algoritmos (os três acima + uma variante ALM) e fornece um benchmark reprodutível em problemas de justiça do mundo real.
3. Experimentos Numéricos: Comparação extensiva em termos de desempenho de otimização (convergência da perda) e melhoria nas métricas de justiça (Independência, Separação, Suficiência).
4. Análise de Sensibilidade: Estudo detalhado da sensibilidade dos hiperparâmetros de cada algoritmo.

4. Resultados Experimentais

Os experimentos foram realizados no conjunto de dados ACSIncome (Oklahoma e Virgínia) com uma rede neural simples (2 camadas ocultas).

• Desempenho de Otimização:

  • O SGD padrão minimiza a perda mais rápido, mas falha completamente em satisfazer as restrições de justiça.
  • Métodos baseados em Lagrangiano Aumentado (ALM e SSL-ALM) demonstraram o melhor equilíbrio: conseguem satisfazer as restrições no conjunto de treinamento e minimizar a perda de forma competitiva.
  • O Stochastic Ghost apresentou alta variabilidade na perda e nas restrições.
  • O SSw foi o melhor em satisfazer as restrições, mas falhou em minimizar a função objetivo (perda) tão bem quanto os outros métodos, resultando em modelos menos precisos.

• Desempenho de Justiça:

  • Todos os métodos com restrições melhoraram as métricas de justiça em comparação ao SGD não restrito.
  • SSL-ALM e ALM ofereceram o melhor compromisso (trade-off), melhorando significativamente a Independência, Separação e Suficiência com uma degradação moderada na acurácia.
  • O SSw teve métricas de justiça e acurácia comparáveis ao SGD não restrito, indicando que, com os parâmetros escolhidos, priorizou a minimização do objetivo em detrimento das restrições.

• Generalização:

  • Observou-se um viés leve nas restrições no conjunto de teste (generalização), o que é esperado em estimadores com restrições de justiça, mas não foi o foco principal deste trabalho.

5. Significado e Conclusão

• Primeiro Benchmark Realista: Este trabalho fornece o primeiro benchmark abrangente para avaliar métodos de otimização em cenários reais de treinamento de DNNs com restrições de justiça, preenchendo uma lacuna crítica na literatura.
• Preferência por Restrições vs. Penalizações: Os resultados reforçam a tese de que formular o problema como uma restrição dura (hard constraint) é preferível à adição de termos de penalização (regularização), pois oferece um controle mais claro e previsível sobre o nível de justiça, evitando a necessidade de ajuste fino de pesos de penalidade que dependem do conjunto de dados.
• Limitações e Futuro: O artigo admite que ainda não existe um algoritmo com garantias teóricas completas para este cenário geral (não-suave, não-convexo, estocástico). O objetivo é estimular o desenvolvimento de novos métodos e ferramentas.
• Aviso Ético: Os autores alertam que a justiça algorítmica não é uma "bala de prata" e deve ser parte de um pipeline interdisciplinar, não servindo como desculpa para ignorar questões éticas mais profundas.

Conclusão Final: O método SSL-ALM (Stochastic Smoothed and Linearized Augmented Lagrangian) emergiu como a abordagem mais robusta e equilibrada para o treinamento de DNNs com restrições de justiça em cenários práticos, superando tanto a regularização simples quanto outros métodos de aproximação estocástica em termos de estabilidade e cumprimento de restrições.