Ablation Study of a Fairness Auditing Agentic System for Bias Mitigation in Early-Onset Colorectal Cancer Detection

Título do Estudo

Estudo de Ablação de um Sistema Agente de Auditoria de Justiça para Mitigação de Viés na Detecção de Câncer Colorretal de Início Precoce

1. O Problema

A inteligência artificial (IA) está sendo cada vez mais integrada em sistemas de saúde para suporte à decisão clínica. No entanto, a falta de supervisão rigorosa e de expertise de domínio permite que vieses algorítmicos e riscos de segurança persistam.

• Falhas Silenciosas: Sistemas não monitorados podem gerar recomendações inseguras ou desiguais, como sub-referenciamento de pacientes de minorias raciais ou atrasos no diagnóstico.
• Gargalo de Expertise: A avaliação de segurança de modelos de IA é dependente de contexto e requer julgamento clínico especializado. A velocidade de implantação de modelos supera a capacidade das instituições de realizar auditorias manuais contínuas e abrangentes.
• Caso de Uso Específico: O estudo foca no Câncer Colorretal de Início Precoce (EO-CRC), uma condição com disparidades documentadas (raça, etnia, gênero e status socioeconômico), onde o atraso no diagnóstico e o tratamento inadequado afetam desproporcionalmente grupos minoritários e homens.

2. Metodologia

Os autores propuseram e avaliaram uma arquitetura de sistema agente composta por dois agentes de IA baseados em Grandes Modelos de Linguagem (LLMs) para auditar modelos de aprendizado de máquina:

• Arquitetura dos Agentes:
  1. Agente Especialista em Domínio: Sintetiza literatura clínica para identificar populações em risco e drivers de disparidade (ex: acesso à saúde, fatores genéticos).
  2. Agente Consultor de Justiça: Utiliza o contexto do primeiro agente para recomendar métricas de justiça (fairness) e atributos sensíveis apropriados para a auditoria do modelo (ex: taxa de falsos negativos, odds igualizadas).
• Tecnologia de Apoio (RAG): Ambos os agentes utilizam Geração Aumentada por Recuperação (RAG) para acessar e sintetizar evidências de uma base de conhecimento externa (artigos científicos e biblioteca de métricas de justiça), reduzindo alucinações e garantindo que as recomendações sejam fundamentadas em dados atualizados.
• Configuração Experimental (Estudo de Ablação):
  • Modelos Testados: Três LLMs pré-treinados de diferentes escalas: Llama 3.1 (8B), GPT-OSS (20B) e GPT-OSS (120B).
  • Condições Comparadas:
    1. LLM Pré-treinado Apenas: O modelo executa a tarefa sem agentes nem RAG.
    2. Agente sem RAG: O agente usa o prompt, mas não acessa fontes externas.
    3. Agente com RAG: O agente acessa dinamicamente a base de conhecimento externa.
• Métrica de Avaliação: A qualidade das recomendações foi medida pela similaridade semântica (usando embeddings de sentenças e similaridade de cosseno) entre a saída do agente e um conjunto de "verdade fundamental" (ground truth) derivado de especialistas humanos.

3. Contribuições Chave

• Validação de Arquitetura Agente: Demonstra que sistemas de IA autônomos podem auxiliar na auditoria de viés em modelos biomédicos, identificando atributos sensíveis e métricas de justiça.
• Análise de Escala vs. RAG: Fornece evidências empíricas sobre como o tamanho do modelo (número de parâmetros) e a presença de RAG interagem para melhorar a precisão em tarefas específicas de auditoria.
• Framework Reprodutível: Apresenta um pipeline de auditoria que pode ser adotado por instituições com recursos computacionais variados, desde laptops (usando modelos 8B) até servidores de alta performance.

4. Resultados Principais

Os resultados foram analisados através de testes estatísticos não paramétricos (Kruskal-Wallis e Wilcoxon):

• Desempenho do Agente 1 (Especialista em Domínio):
  • A configuração Agente com RAG consistentemente obteve as maiores pontuações de similaridade semântica em todos os modelos (8B, 20B e 120B).
  • O uso de RAG superou significativamente tanto o LLM puro quanto o Agente sem RAG.
  • Isso indica que a identificação de disparidades depende fortemente de conhecimento externo atualizado, que o RAG fornece eficazmente.
• Desempenho do Agente 2 (Consultor de Justiça):
  • Os resultados foram mais variáveis dependendo da escala do modelo.
  • No modelo 8B, o RAG trouxe melhorias significativas.
  • No modelo 20B, não houve diferença estatisticamente significativa entre as configurações, sugerindo que o modelo médio já possui conhecimento interno suficiente sobre métricas de justiça.
  • No modelo 120B, o Agente com RAG superou o LLM puro, mas a diferença entre "Agente com RAG" e "Agente sem RAG" não foi estatisticamente significativa, indicando que modelos grandes podem realizar a tarefa de seleção de métricas com base em seu treinamento prévio, embora o RAG ainda seja benéfico.
• Uso da Ferramenta de Recuperação: O Agente 1 invocou a ferramenta de RAG em 100% das execuções. O Agente 2 também a invocou na maioria das vezes, exceto no modelo 120B, onde a taxa foi de 85%, sugerindo que modelos maiores às vezes conseguem completar a tarefa sem consulta externa.

5. Significância e Conclusão

• Mitigação de Viés: O estudo confirma que sistemas agênticos com RAG podem escalar a auditoria de justiça em IA clínica, superando o gargalo de recursos humanos especializados.
• Otimização de Recursos:
  • Para ambientes com recursos limitados (ex: laptops clínicos), o modelo Llama 3.1 8B combinado com um framework agêntico e RAG é uma opção viável e eficaz, especialmente para tarefas que exigem fundamentação em literatura externa (como a identificação de disparidades).
  • Para ambientes com maior capacidade computacional, o modelo GPT-OSS 120B com RAG apresentou o melhor desempenho geral, alcançando a maior similaridade semântica com os padrões de especialistas.
• Implicações Futuras: A pesquisa destaca que a eficácia de um sistema de auditoria depende da combinação correta entre o tamanho do modelo, a arquitetura do agente e a necessidade de recuperação de conhecimento externo. Isso permite o desenvolvimento de ferramentas de auditoria mais acessíveis e equitativas para o setor de saúde.

Em suma, o trabalho demonstra que a integração de RAG em sistemas agênticos é crucial para garantir que as recomendações de auditoria de IA sejam precisas, contextualizadas e alinhadas com o conhecimento médico atual, especialmente em cenários onde a falta de dados ou o viés estrutural podem levar a resultados clínicos desiguais.