Resumo Técnico: Reproduzindo o FACTER

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) estão sendo cada vez mais implantados como sistemas de recomendação devido à sua capacidade de gerar sugestões personalizadas em linguagem natural. No entanto, esses modelos correm o risco de amplificar vieses sociais presentes em seus dados de treinamento, levando a recomendações sistematicamente diferentes para usuários de diferentes grupos demográficos. Embora o retreinamento de modelos sob restrições de equidade seja uma estratégia de mitigação comum, isso é frequentemente impraticável para LLMs de caixa-preta implantados via APIs. Isso necessita de intervenções agnósticas ao modelo e post-hoc.

O artigo foca na reprodução do FACTER (Fayyazi et al., 2025), um framework projetado para impor equidade em recomendações baseadas em LLM sem alterar os parâmetros do modelo. O FACTER combina a predição conformal para calibrar um limiar de não conformidade com um mecanismo de reparo de prompt iterativo que injeta restrições "AVOID" (EVITAR) baseadas em violações detectadas. O estudo original afirmou que o FACTER poderia reduzir violações de equidade sem degradar a utilidade da recomendação. Este trabalho investiga a reprodutibilidade dessas afirmações, abordando ambiguidades na implementação original e avaliando o framework tanto no cenário original de geração aberta quanto em uma extensão de reclassificação (re-ranking) controlada.

Metodologia

Implementação do Framework

Os autores implementaram o FACTER do zero, aderindo às formalizações teóricas do artigo original enquanto resolviam discrepâncias de implementação encontradas no código público. O framework opera em duas fases:

1. Calibração Offline: Um limiar de aceitação inicial ($Q^{(0)}_\alpha$) é estabelecido usando predição conformal dividida (split conformal prediction). Um escore de não conformidade ($S$) é computado para instâncias de calibração, combinando um termo de erro preditivo (desvio da verdade fundamental) e uma penalidade de equidade (distância semântica para recomendações dadas a "vizinhos contrafatuais" com atributos protegidos diferentes).
2. Monitoramento Online: À medida que as consultas chegam, o sistema verifica se o escore de não conformidade excede o limiar atual. Se ocorrer uma violação:
   • Reparo de Prompt: O sistema minera características frequentes de itens associadas à violação e injeta restrições explícitas de "AVOID" no prompt do sistema (ex: "Avoid: gender=F $\to$ Romance").
   • Adaptação de Limiar: O limiar é atualizado via suavização exponencial para redimensionar dinamicamente a região de aceitação.

Configuração Experimental

O estudo avalia o FACTER através de dois conjuntos de dados (MovieLens-1M e Amazon Movies & TV) e três backbones de LLM (Llama 2-7B, Llama 3-8B, Mistral-7B).

• Tarefas: A avaliação cobre a tarefa original de geração aberta (onde o LLM gera títulos de itens do zero) e uma nova tarefa de reclassificação controlada (onde o LLM classifica um pool fixo de candidatos).
• Baselines: O estudo introduz um baseline de Fair Zero-Shot, que utiliza instruções de equidade estáticas sem o loop de reparo iterativo, para isolar a contribuição do mecanismo dinâmico.
• Métricas: A equidade é medida via Razão de Similaridade Sensível-para-Neutro (SNSR) e Razão de Equidade Contrafatual (CFR), juntamente com Contagens de Violação. A utilidade é medida via Recall@k e NDCG@k.

Resultados Principais

1. Reprodutibilidade da Geração Aberta

Sob a reprodução estrita da tarefa de geração aberta, os autores observaram uma divergência significativa na utilidade da recomendação.

• Gap de Utilidade: O modelo reproduzido apresentou escores de NDCG@10 e Recall@10 próximos de zero, contrastando fortemente com os resultados robustos relatados no estudo original. Esse gap é atribuído à dificuldade da geração zero-shot e aos protocolos de avaliação de conjunto-alvo subespecificados no trabalho original (ex: tolerâncias de correspondência de strings e construção do conjunto de relevância).
• Tendências de Equidade: Apesar do gap de utilidade, o FACTER reduziu consistentemente as contagens de violação de limiar adaptativo em comparação com o baseline neutro. No entanto, essas reduções não se traduziram consistentemente em melhorias nas métricas globais de equidade (SNSR, CFR). Em alguns casos, o CFR do FACTER foi pior do que o do baseline neutro.

2. Desempenho na Extensão de Reclassificação (Re-Ranking)

No cenário controlado de reclassificação, onde o conjunto de candidatos é fixo:

• Utilidade: A utilidade da recomendação foi marcadamente superior na geração aberta, confirmando que os LLMs subjacentes conseguem identificar itens relevantes quando o espaço de busca é restrito.
• Equidade: O FACTER manteve baixas contagens de violação adaptativa. No entanto, instruções de equidade estáticas (Fair Zero-Shot) alcançaram resultados de paridade semântica (SNSR, CFR) e contagens de violação de limiar fixo comparáveis ao loop dinâmico do FACTER.
• Dinâmica de Limiar: A redução nas violações mostrou-se altamente dependente do limiar adaptativo. Quando avaliado contra um limiar fixo, calibrado pela população, as contagens de violação do FACTER foram comparáveis aos baselines, sugerindo que a suposta melhoria provém do relaxamento do limiar e não de uma mudança comportamental fundamental.

3. Análise de Mecanismo

A análise de componentes dos escores de não conformidade revelou que, embora o erro preditivo tenha melhorado marginalmente ao longo das iterações, a penalidade de equidade na verdade aumentou. Isso indica que as restrições "AVOID" injetadas frequentemente falharam em sobrepor a distribuição preditiva do modelo, potencialmente desestabilizando a estabilidade contrafatual. O loop de reparo dinâmico proporcionou benefício adicional limitado em relação ao prompting estático na formulação de ranking restrito.

Significância e Alegações

O artigo posiciona-se como uma auditoria de reprodução de melhor esforço em vez de uma adjudicação definitiva dos resultados originais, citando ambiguidades no artigo original e no código. Suas principais contribuições são:

1. Documentação de Limites: Destaca que as alegações originais de utilidade em geração aberta não puderam ser reproduzidas sob configurações equivalentes, provavelmente devido a protocolos de avaliação subespecificados.
2. Isolamento de Mecanismos: Ao introduzir o baseline Fair Zero-Shot, o estudo demonstra que o loop de reparo de prompt iterativo oferece benefício marginal limitado sobre as instruções de equidade estáticas em tarefas de ranking restrito.
3. Limiar vs. Comportamento: A análise sugere que o principal mecanismo do FACTER para reduzir contagens de violação é o relaxamento do limiar adaptativo, e não a erradicação bem-sucedida do viés via reparo de prompt.
4. Restrições de Reprodutibilidade: O trabalho ressalta a necessidade de protocolos de avaliação transparentes em tarefas generativas abertas e os desafios de reproduzir frameworks de equidade agnósticos ao modelo quando detalhes de implementação (ex: construção do conjunto-alvo, computação de métricas) são ambíguos.

Os autores concluem que, embora a predição conformal efetivamente limite as contagens internas de violação, a necessidade prática do loop de reparo online é questionável em cenários restritos, onde instruções estáticas podem oferecer uma alternativa mais eficiente. Eles chamam a pesquisa futura para explorar mecanismos que imponham limites semânticos durante a decodificação e para calibrar melhor as penalidades de equidade contra a confiança preditiva.