LLMs Are Not a Silver Bullet: A Case Study on Software Fairness

1. O Problema

A justiça (fairness) é um requisito crítico para sistemas de software de alto risco que envolvem decisões humanas, como avaliação de crédito, contratação e justiça criminal. Violações de justiça podem levar a consequências sociais e legais graves.

Historicamente, a pesquisa em mitigação de viés no campo da Engenharia de Software (ES) focou em dados tabulares utilizando Métodos de Aprendizado de Máquina (ML) tradicionais. Com o surgimento rápido dos Modelos de Linguagem de Grande Escala (LLMs), há uma tendência crescente de substituir pipelines tradicionais por soluções baseadas em LLMs, inclusive para tarefas de classificação tabular.

No entanto, existe uma lacuna crítica: não está claro se os métodos baseados em LLMs oferecem vantagens reais sobre os métodos tradicionais de ML para mitigação de viés em dados tabulares. Estudos anteriores baseados em LLMs relatam resultados promissores, mas muitas vezes não realizam comparações diretas com as melhores técnicas de ML, deixando os engenheiros de software sem diretrizes claras para adoção prática.

2. Metodologia

Os autores realizaram um estudo empírico em larga escala para comparar métodos de mitigação de viés baseados em ML e LLMs.

• Conjunto de Dados: Utilizaram três conjuntos de dados reais e amplamente adotados na literatura de justiça: Adult (previsão de renda), Compas (avaliação de risco de reincidência) e Credit (previsão de inadimplência). Derivaram seis tarefas de avaliação combinando esses dados com atributos sensíveis (sexo, raça, idade).
• Métodos Avaliados:
  • Paradigma ML: Um baseline padrão e 8 métodos tradicionais de mitigação de viés cobrindo pré-processamento (ex: FairMask, LTDD), processamento (ex: ADV), pós-processamento (ex: EOP, ROC) e métodos de ensemble. Foram testados em 4 modelos clássicos (Regressão Logística, Random Forest, SVM, DNN).
  • Paradigma LLM: Um baseline zero-shot e 8 métodos baseados em In-Context Learning (ICL), incluindo seleção aleatória de demonstrações, manipulação de rótulos, controle de distribuição e busca por demonstrações conscientes de justiça (FCG). O modelo principal utilizado foi o GPT-4o-mini.
• Métricas de Avaliação:
  • Justiça: Diferença de Paridade Estatística (SPD), Diferença de Odds Média (AOD) e Diferença de Oportunidade Igual (EOD). Valores mais baixos indicam maior justiça.
  • Desempenho Preditivo: Acurácia, Precisão, Recall e F1-Score.
• Análises Adicionais (RQs):
  • RQ2: Testaram se a conclusão muda com LLMs mais avançados (GPT-5, Gemini-2.5, DeepSeek, Qwen).
  • RQ3: Investigaram o impacto do conjunto de teste (balanceado artificialmente vs. distribuição real desbalanceada).
  • RQ4: Investigaram se o Fine-Tuning Supervisionado (usando todo o conjunto de dados de treinamento) pode superar as limitações do ICL e dos métodos ML tradicionais.

3. Principais Contribuições

1. Estudo Comparativo em Larga Escala: A primeira comparação direta e abrangente entre os paradigmas de ML tradicional e LLM para mitigação de viés em dados tabulares.
2. Análise de Sensibilidade ao Cenário de Avaliação: Demonstração de que os resultados favoráveis de estudos anteriores sobre LLMs são frequentemente inflados pelo uso de conjuntos de teste artificialmente balanceados, que não refletem a realidade.
3. Investigação de Fine-Tuning: Análise de se o uso de todo o conjunto de dados de treinamento via fine-tuning permite que os LLMs superem os métodos ML, revelando que os ganhos ainda são limitados.
4. Reprodutibilidade: Lançamento de um pacote de replicação aberto com todos os scripts e dados utilizados.

4. Resultados Chave

• RQ1: ML supera LLMs: Sob configurações experimentais idênticas e realistas, os métodos baseados em ML superaram consistentemente os baseados em LLMs em justiça e desempenho preditivo.

  • Os métodos ML reduziram as métricas de viés (SPD, EOD, AOD) em 48,3% a 59,6% em comparação com a média dos métodos LLM.
  • Os métodos ML alcançaram 11,1% de maior Acurácia e 9,3% de maior F1-Score em média.
  • O ML foi estatisticamente superior em 72,2% das comparações de justiça e 83,3% das comparações de desempenho preditivo.

• RQ2: Robustez do Modelo: A conclusão permanece inalterada mesmo ao testar LLMs mais avançados e maiores (incluindo modelos de raciocínio como o Qwen3-Max-Thinking). O aumento do tamanho do modelo não foi suficiente para superar os métodos ML tradicionais.

• RQ3: O Perigo de Dados Balanceados: Estudos anteriores que relatam bons resultados para LLMs geralmente usam conjuntos de teste balanceados (distribuição igualitária de grupos demográficos).

  • Ao mudar para uma distribuição de teste realista e desbalanceada, a justiça dos métodos LLM piorou drasticamente (aumento de 36,2% a 138,4% nas métricas de viés).
  • Isso sugere que os ganhos de justiça relatados anteriormente são artefatos do cenário de avaliação e não generalizam para o mundo real.

• RQ4: Limitações do Fine-Tuning: Embora o fine-tuning supervisionado (usando todo o conjunto de dados) tenha superado o in-context learning (ICL), ele não superou consistentemente os métodos ML tradicionais.

  • O fine-tuning não mostrou vantagens significativas em nenhuma comparação de justiça e apenas em 37,5% das comparações de desempenho preditivo.
  • Além disso, o fine-tuning introduz custos monetários e de tempo significativos, tornando-o menos prático que os métodos ML tradicionais para essa tarefa específica.

5. Significado e Implicações

• LLMs não são uma "Bala de Prata": Para tarefas de classificação tabular e mitigação de viés, os engenheiros de software não devem assumir que os LLMs são uma substituição automática ou superior para as técnicas de ML tradicionais. A adoção deve ser baseada em evidências e específica para a tarefa.
• Importância de Cenários de Avaliação Realistas: A comunidade de pesquisa deve evitar o uso de conjuntos de dados balanceados artificialmente para avaliar justiça, pois isso cria uma falsa sensação de eficácia. As avaliações devem refletir as distribuições desbalanceadas do mundo real.
• Necessidade de Avaliação Cross-Paradigma: Estudos futuros devem comparar novas abordagens (como LLMs) diretamente com as melhores soluções estabelecidas (ML tradicional) em um único cenário experimental, em vez de avaliar apenas dentro do próprio paradigma.
• Custo-Benefício: Mesmo quando os LLMs mostram desempenho competitivo, o custo computacional e financeiro pode não justificar sua adoção em detrimento de métodos ML mais simples e eficientes para dados tabulares.

Em resumo, o artigo alerta a comunidade de Engenharia de Software para não abandonar as técnicas estabelecidas de ML em favor de LLMs sem uma avaliação rigorosa, demonstrando que, para justiça em dados tabulares, o ML tradicional continua sendo a abordagem mais eficaz e prática.