Small edits, large models: How Wikipedia advocacy shapes LLM values

Resumo Técnico: Pequenas Edições, Grandes Modelos

Definição do Problema
Organizações de defesa muitas vezes carecem de recursos para influenciar diretamente os dados de treinamento de grandes modelos de linguagem (LLMs), que são cada vez mais a principal fonte de informação para o público. Embora esteja estabelecido que a Wikipédia é um componente fortemente ponderado nos principais conjuntos de dados de treinamento de LLMs (ex: The Pile, RedPajama, Dolma), permanece empiricamente não comprovado se campanhas de edição coordenadas e de pequena escala por grupos não técnicos podem alterar mensuravelmente o comportamento do modelo. Especificamente, o artigo investiga se um pequeno grupo de voluntários (Pro-Animal Wikipedians, ou PAW) pode alterar a forma como os LLMs discutem tópicos de bem-estar animal simplesmente adicionando conteúdo baseado em fontes à Wikipédia, sem exigir acesso a APIs, infraestrutura técnica ou retreinamento do modelo.

Metodologia
O estudo emprega três métodos distintos e complementares de atribuição de dados e estimativa de influência para rastrear o impacto de 125 edições específicas feitas pelo PAW em 115 artigos.

1. Construção do Conjunto de Dados:

   • Conteúdo PAW: 125 edições em 115 páginas focadas em exploração animal, senciência e política.
   • Conjuntos de Controle:
     • Para atribuição de recuperação (TrackStar): 36 pares de seções editadas pelo PAW combinadas com seções não editadas pelo PAW dos mesmos artigos para controlar a popularidade do artigo e a qualidade da escrita (72 seções no total).
     • Para estimativa de influência (MAGIC) e ablação: 118 seções do PAW pareadas com 118 fragmentos aleatórios do WikiText-103 para garantir uma separação limpa entre o conteúdo de bem-estar animal e o texto geral.
   • Conjuntos de Consulta: 80 consultas sobre bem-estar animal (ex: "Qual é a política de bem-estar animal da Aldi?") e 90 consultas gerais sobre as mesmas entidades (ex: "Quantas lojas a Aldi possui?") servindo como controles negativos.

2. Técnicas de Atribuição e Influência:

   • TrackStar (Atribuição de Recuperação): Implementado via biblioteca Bergson no Llama 3.1 8B. Este método calcula a similaridade de gradiente entre documentos de treinamento e consultas para classificar documentos por relevância semântica. Determina se as edições do PAW estão sobrerrepresentadas nos documentos com maior atribuição para consultas específicas.
   • MAGIC (Influência Contrafactual): Implementado no Llama-3.2-1B usando ajuste fino LoRA. Este método realiza o backpropagation através do processo de treinamento para estimar o impacto contrafactual da remoção de um documento. O estudo executou este protocolo através de cinco sementes de ordem de treinamento aleatórias (1, 7, 42, 99, 256) para garantir robustez contra ruído dependente de semente, usando validação de exclusão de subconjunto (leave-subset-out).
   • Ablação de Ajuste Fino (Fine-Tuning Ablation): Dois modelos Llama-3.2-1B distintos foram ajustados: um exclusivamente com conteúdo do PAW e outro com conteúdo de controle. A perplexidade foi medida em ambos os conjuntos de texto para verificar se o treinamento em um conteúdo específico melhora o desempenho especificamente naquele tipo de conteúdo.

Resultos Principais

• Atribuição de Recuperação TrackStar:

  • Para consultas de bem-estar animal, as seções editadas pelo PAW compuseram 68% dos 5 documentos com maior atribuição ($p < 0,0001$), excedendo significativamente a linha de base de 50%.
  • Para consultas gerais sobre as mesmas empresas, as seções do PAW compuseram 51,7% dos 5 principais, o que é estatisticamente indistinguível do acaso ($p = 0,528$).
  • Isso confirma que a influência é específica do tópico e não um resultado de as edições serem mais longas ou melhor escritas.

• Influência Contrafactual MAGIC:

  • Em cada uma das sementes (5/5), os 10 documentos mais influentes para consultas de bem-estar animal foram 100% edições do PAW.
  • Para consultas gerais, os 10 principais continham apenas 4 a 6 edições do PAW, consistentes com a linha de base de acaso.
  • A média de influência do PAW em consultas de bem-estar animal foi significativamente mais negativa (mais influente) do que os controles ($p < 0,0001$ em todas as sementes), com um tamanho de efeito 6 a 30 vezes maior do que em consultas gerais.
  • A validação interna rendeu um Spearman $\rho = 1,00$ em todas as execuções.

• Ablação de Ajuste Fino:

  • O modelo treinado com o conteúdo do PAW alcançou uma perplexidade de 8,4 no texto de bem-estar animal (vs. 12,4 para o modelo treinado com o controle), uma melhoria de 32%.
  • Inversamente, o modelo treinado com o controle alcançou uma perplexidade de 11,4 no texto de controle (vs. 16,1 para o modelo treinado com o PAW), uma melhoria de 29%.
  • Não houve benefício cruzado, confirmando que os sinais de atribuição refletem o aprendizado genuíno de distribuições de conteúdo específicas.

Significância e Alegações
O artigo afirma fornecer a primeira evidência empírica de que uma pequena campanha coordenada de edição da Wikipédia (125 edições por um punhado de voluntários) molda de forma mensurável e seletiva como os modelos de linguagem lidam com tópicos específicos.

• Praticidade para Defesa (Advocacy): Os autores enquadram a edição da Wikipédia como uma intervenção de baixo custo e alta alavancagem para organizações de defesa. Requer nenhuma perícia técnica, nenhum acesso ao modelo e nenhum orçamento além do tempo do editor.
• Mecanismo de Influência: O estudo demonstra que os LLMs não apenas memorizam artigos, mas aprendem associações e enquadramentos a partir da distribuição do texto. Ao inserir conteúdo factual e em conformidade com políticas sobre bem-estar animal em artigos de alto tráfego (ex: redes de fast-food), os defensores podem fortalecer a associação entre essas entidades e questões de bem-estar na estrutura de conhecimento do modelo.
• Escalabilidade para Modelos de Fronteira: Os autores argumentam que, embora seus experimentos tenham usado modelos menores (1B–8B parâmetros), o efeito provavelmente persiste ou se fortalece em modelos de fronteira (ex: GPT-4, Claude). Isso ocorre porque:
  1. A Wikipédia é valorizada (upweighted) nas misturas de pré-treinamento (2–5x).
  2. As edições do PAW são frequentemente corroboradas por notícias e relatórios da indústria, criando um agrupamento reforçador de documentos semelhantes, em vez de um sinal isolado.
  3. Modelos maiores têm maior capacidade de reter exemplos de treinamento.
  4. As edições estão inseridas dentro de páginas de entidades de alto tráfego, influenciando a estrutura associativa mais ampla do modelo.

O artigo conclui que o sinal dessas edições já está "incorporado" (baked into) nos modelos atualmente usados por milhões de pessoas, e que escalar esse esforço para centenas de edições poderia influenciar ainda mais futuras iterações de modelos.