Resumo Técnico: HALvest-Contrastive

Declaração do Problema

A Atribuição de Autoria (AA) enfrenta um desafio persistente conhecido como confusão temática. Abordagens estatísticas e neurais tradicionais frequentemente lutam para distinguir entre similaridade estilística e sobreposição temática; dois escritores cobrindo o mesmo assunto frequentemente parecem mais semelhantes a um modelo do que um único escritor cobrindo dois assuntos diferentes. Embora sistemas neurais de AA tenham adotado aprendizado contrastivo (por exemplo, perda de tríade), eles frequentemente dependem de comprimir documentos inteiros em vetores únicos via média de agrupamento (mean pooling), uma estratégia herdada de métodos estatísticos iniciais, mas potencialmente subótima para capturar sinais estilísticos sutis. Além disso, benchmarks existentes frequentemente falham em desacoplar rigorosamente o tema da autoria, permitindo que modelos dependam de "atalhos temáticos" (sobreposição de vocabulário) em vez de aprender distribuições estilísticas verdadeiras.

Metodologia

1. O Corpus HALvest e o Benchmark HALvest-Contrastive

Os autores introduzem o HALvest, um corpus multilíngue de 17 bilhões de tokens extraído de 778.000 artigos científicos de acesso aberto via repositório HAL. A partir disso, derivam o HALvest-Contrastive, um benchmark apenas em inglês projetado para impor desacoplamento temático:

• Pares Positivos: Passagens âncora e positivas são extraídas de diferentes artigos escritos pelo mesmo conjunto de autores, garantindo sobreposição temática mínima enquanto mantêm consistência estilística.
• Pares Negativos: Negativos são minerados do mesmo campo disciplinar, mas por diferentes conjuntos de autores.
• Rotulagem: A verdade fundamental é o conjunto de autores (coautores) em vez de um único indivíduo, refletindo a estrutura de metadados dos repositórios acadêmicos e evitando heurísticas arbitrárias de autor único.
• Comprimentos de Segmento: O conjunto de dados suporta comprimentos de segmento variáveis ($k \in \{2, 4, 6, 8, 10\}$ frases) para avaliar como os sinais estilísticos escalam com o comprimento do texto.

2. Arquitetura Semelhante a Recuperação para AA

O artigo aplica o "manual de recuperação" à atribuição de autoria, afastando-se da perda de tríade padrão e do agrupamento de vetor único:

• Função de Perda: Os autores empregam InfoNCE (Estimação de Contraste de Ruído) em vez de perda de tríade. O InfoNCE aproveita grandes pools de negativos no lote, o que naturalmente concentra gradientes em negativos difíceis (documentos tematicamente similares, mas de autores diferentes), auxiliando na decorrelação do estilo em relação ao tema.
• Granularidade de Interação: O artigo investiga três modos de pontuação:
  1. Agrupamento de Vetor Único: Média padrão de embeddings de tokens seguida por similaridade de cosseno.
  2. Interação Tardia (LI): Documentos são representados como sequências completas de vetores de tokens. A pontuação utiliza MaxSim (soma das máximas similaridades de cosseno entre tokens da consulta e do documento), uma técnica comum em recuperação densa (por exemplo, ColBERT).
  3. Interação Tardia em Nível de Patch (PLI): Vetores de tokens são agrupados em patches contíguos (seja n-gramas fixos ou palavras inteiras), agrupados em vetores de patch únicos e, em seguida, combinados via MaxSim no nível do patch. Isso reduz custos de armazenamento e computacionais enquanto mantém a granularidade de interação.

Principais Contribuições

1. HALvest e HALvest-Contrastive: O lançamento de um corpus acadêmico multilíngue em grande escala e um benchmark rigorosamente construído em inglês que minimiza a sobreposição temática entre pares do mesmo autor, fornecendo um protocolo de avaliação mais estrito para estilometria.
2. Validação Empírica do Desacoplamento Temático: Os autores demonstram que baselines lexicais (por exemplo, BM25) sofrem quedas significativas de desempenho quando atalhos temáticos são removidos, enquanto modelos contrastivos neurais mantêm a precisão, confirmando que o benchmark isola com sucesso sinais estilísticos.
3. Estudo de Granularidade: Uma comparação sistemática de estratégias de agrupamento revela que a Interação Tardia supera significativamente o agrupamento de vetor único. Crucialmente, o artigo introduz a Interação Tardia em Nível de Patch (PLI), mostrando que agrupar tokens em patches produz precisão comparável ou ligeiramente melhor do que a interação em nível de token completo, enquanto reduz a contagem de vetores.
4. Ajuste Empírico de Tamanho de Patch: Os autores identificam uma heurística prática para o tamanho de patch ótimo $n^*$ em relação à contagem de tokens $S$: $n^* \approx 0,18 \cdot \sqrt{S}$. Isso sugere que a granularidade de interação ótima escala de forma sublinear com o comprimento do documento.

Resultados

• Desacoplamento Temático: Na configuração "Base" (restrita), a precisão do BM25 cai em aproximadamente 11 pontos percentuais em comparação com a configuração "Sem Restrições", enquanto modelos neurais (RoBERTa) mostram robustez, indicando que aprendem sinais além da sobreposição lexical.
• Ganhos de Desempenho: As variantes de Interação Tardia (LI) e PLI superam consistentemente o agrupamento de média em todas as métricas (Recall@k, nDCG@k) e comprimentos de segmento. O ganho é de aproximadamente 20% sobre o agrupamento de média ao manter o codificador fixo e trocar o pontuador.
• Compensações de Granularidade: Embora a LI em nível de token seja competitiva, a PLI de política fixa (especificamente variantes de n-gramas) frequentemente iguala ou supera ligeiramente o desempenho em nível de token com menor sobrecarga computacional. O $n$ ótimo varia conforme o comprimento do segmento, mas segue a tendência $\sqrt{S}$.
• Generalização Transversal de Domínio: Modelos treinados no HALvest-Contrastive alcançam forte precisão de tríade zero-shot (0,740) no conjunto de dados de fan-fiction PAN19, sugerindo que as representações aprendidas capturam o estilo de autoria em vez de apenas registro acadêmico ou tema.
• Escala de Negativos: Aumentar o tamanho do pool de negativos no lote (de 256 para 512) produz melhorias consistentes, embora pequenas, alinhando-se com descobertas na literatura de recuperação de informação.

Significado e Alegações

O artigo argumenta que a prosa acadêmica é um campo de testes ideal para estilometria devido à sua natureza de baixa entropia e padronizada, o que torna mais fácil isolar resíduos estilísticos do ruído temático. Ao aplicar técnicas de recuperação (InfoNCE e Interação Tardia) à AA, os autores demonstram que:

1. AA é distinta da recuperação semântica: Modelos estilísticos ajustados separam pares do mesmo autor efetivamente, enquanto codificadores semânticos (como E5) falham em distinguir autoria apesar da alta similaridade semântica.
2. A granularidade importa: O "manual de recuperação" transfere-se amplamente para a AA, mas a granularidade de interação ótima é sutil. A correspondência em nível de token não é uniformemente superior; o agrupamento oferece uma alternativa computacionalmente eficiente que preserva o desempenho.
3. Utilidade Prática: A fórmula derivada $n^* \approx 0,18 \cdot \sqrt{S}$ fornece um ponto de partida prático para profissionais projetando sistemas de AA, equilibrando precisão com custos de armazenamento e inferência.

Os autores concluem que, embora o paradigma de recuperação melhore o desempenho da AA, a escolha específica da granularidade de interação (patches vs. tokens) é uma decisão de design crítica que difere de tarefas padrão de recuperação semântica. O trabalho fornece código de código aberto, scripts de construção de corpus e o próprio conjunto de dados para facilitar pesquisas futuras.