Fairness in Multi-Agent Systems for Software Engineering: An SDLC-Oriented Rapid Review

Título: Justiça em Sistemas Multi-Agente para Engenharia de Software: Uma Revisão Rápida Orientada ao SDLC

1. Problema e Motivação

Os modelos de linguagem grandes (LLMs) baseados em transformers e os Sistemas Multi-Agente (MAS) estão sendo cada vez mais integrados ao Ciclo de Vida de Desenvolvimento de Software (SDLC), auxiliando em tarefas como geração de código, testes, implantação e manutenção. Com a evolução para arquiteturas "Software 3.0" (desenvolvimento nativo de IA), onde múltiplos agentes colaboram autonomamente, surgem preocupações críticas sobre justiça (fairness), responsabilidade e viés.

O problema central identificado é que, embora os LLMs sejam amplamente estudados, a justiça em Sistemas Multi-Agente aplicados à Engenharia de Software (ES) permanece subexplorada. A literatura atual carece de:

• Definições claras de justiça específicas para interações entre agentes.
• Métricas padronizadas para avaliar vieses em dinâmicas coletivas (ex: amplificação de viés, conformidade de grupo).
• Uma compreensão de como esses vieses impactam as diferentes etapas do SDLC (desde requisitos até manutenção).

2. Metodologia

O estudo adotou uma revisão rápida (rapid review), seguindo o protocolo de Cartaxo, para sintetizar pesquisas contemporâneas de forma ágil, dada a velocidade de evolução do campo.

• Estratégia de Busca:
  • Fontes: ACM Digital Library, IEEE Xplore e Google Scholar.
  • Período: 2017 a 2025.
  • Termos: Combinação de termos de justiça ("fairness", "bias", "equity"), sistemas multi-agente ("multi-agent", "LLM-based agent") e engenharia de software ("SDLC", "software development").
  • Snowballing: Uma rodada de busca para trás e para frente em artigos semente.
• Seleção de Estudos:
  • Corpus Inicial: 350 artigos identificados.
  • Critérios de Inclusão: Estudos empíricos ou conceituais focados em MAS, com ênfase em justiça/viés, relevantes para fluxos de trabalho de ES ou interações entre agentes.
  • Corpus Final: Após triagem de título/resumo, texto parcial e deduplicação, 18 estudos foram selecionados para análise final.
• Análise:
  • Extração estruturada de dados focada em três Perguntas de Pesquisa (RQs).
  • Mapeamento interpretativo de danos e mecanismos para as etapas do SDLC (Requisitos, Design, Testes, Manutenção), mesmo quando os estudos originais não eram estritamente de ES.
  • Síntese temática para identificar padrões, lacunas e definições.

3. Perguntas de Pesquisa (RQs)

1. RQ1: Como a justiça é definida e medida nos estudos existentes de sistemas multi-agente?
2. RQ2: Quais tipos de vieses, danos ou resultados desiguais foram identificados nas diferentes etapas do SDLC?
3. RQ3: Onde residem as lacunas de pesquisa atuais na promoção de justiça, responsabilidade e transparência?

4. Principais Contribuições e Resultados

A. Definições e Medição de Justiça (RQ1)
A revisão identificou três correntes principais de definição de justiça, que utilizam métricas não sobrepostas:

1. Redução de Viés Social: Foca em evitar estereótipos em simulações baseadas em personas (gênero, raça, política). Usa métricas de desempenho em benchmarks (C1) e disparidade entre grupos (C2).
2. IA Confiável e Ética: Enquadra a justiça como um princípio normativo (transparência, responsabilidade, governança), alinhado a regulamentos como o AI Act da UE. Frequentemente carece de métricas quantitativas explícitas (C4).
3. Dinâmicas Inter-Agentes: Define justiça através da distribuição de responsabilidade e influência entre agentes. Foca em métricas comportamentais específicas de MAS, como conformidade de grupo, alinhamento coletivo e amplificação de viés (C3).

Conclusão: Não há consenso. Estudos de redução de viés ignoram efeitos de interação; estudos de dinâmica de agentes raramente conectam seus resultados a disparidades demográficas; e estudos de governança são puramente conceituais.

B. Vieses e Danos no SDLC (RQ2)
Os danos identificados foram mapeados para o SDLC, revelando concentrações e lacunas:

• Tipos de Danos: Danos de representação (estereótipos), qualidade de serviço (precisão desigual, alucinações), segurança/privacidade (injeção de prompts, vazamento de dados) e falhas de governança (opacidade, falta de responsabilidade).
• Mecanismos de Dano Específicos:
  • Conformidade de Grupo: Debates iterativos suprimem opiniões minoritárias.
  • Amplificação de Viés: A divisão de tarefas baseada em personas propaga e intensifica estereótipos ao longo do fluxo de trabalho.
• Mapeamento no SDLC:
  • Requisitos e Design: Onde vieses são codificados ou onde controles de acesso e anonimização são propostos.
  • Testes: Onde benchmarks de viés são aplicados (mas ainda desconectados da prática de teste de software mainstream).
  • Manutenção/Operação: Onde falhas de segurança e alucinações em cascata ocorrem.
  • Lacuna Crítica: Pouca atenção a atividades cotidianas de desenvolvedores, como revisão de código e depuração de ferramentas habilitadas por MAS.

C. Lacunas de Pesquisa (RQ3)
O estudo identificou três lacunas persistentes que impedem a adoção de sistemas justos:

1. Práticas de Avaliação Fragmentadas: A falta de protocolos padronizados e benchmarks específicos para MAS torna a comparabilidade entre estudos impossível. As avaliações frequentemente confundem efeitos de interação com escolha de tarefas.
2. Limitada Generalização: Os resultados são demonstrados em configurações muito específicas (um modelo, um protocolo de interação), com cobertura estreita de atributos (foco excessivo em gênero/política, ignorando interseccionalidade).
3. Mitigação Fraca: A literatura é rica na identificação de problemas, mas pobre em mitigações implementáveis e validadas. Falta avaliação de custos computacionais, escalabilidade e integração em pipelines reais de ES.

5. Significância e Conclusão

O artigo conclui que a pesquisa sobre justiça em Sistemas Multi-Agente ainda não está pronta para suportar a implantação de sistemas de software com garantia de justiça.

• Implicações Práticas: A comunidade de Engenharia de Software precisa desenvolver:
  • Benchmarks conscientes de MAS que capturem dinâmicas de grupo.
  • Protocolos de avaliação consistentes ao longo do SDLC.
  • Mecanismos de governança e mitigação validados em fluxos de trabalho reais de desenvolvimento.
• Contribuição Teórica: O trabalho fornece um mapa estrutural das definições de justiça e danos, destacando a necessidade de transitar de uma visão puramente estatística (viés em dados) para uma visão sistêmica (viés em interações e processos de decisão coletivos).

Em suma, o artigo serve como um alerta de que, à medida que os agentes de IA se tornam autônomos e colaborativos, a justiça deve ser tratada não apenas como uma propriedade de saída do modelo, mas como uma propriedade emergente do sistema e das interações humanas-máquina ao longo de todo o ciclo de vida do software.