Explainable Disentangled Representation Learning for Generalizable Authorship Attribution in the Era of Generative AI

1. Problema e Motivação

A Atribuição de Autoria (AA) e a Detecção de Texto Gerado por IA são tarefas críticas para proteger a propriedade intelectual, garantir a integridade acadêmica e realizar investigações forenses. No entanto, os métodos existentes enfrentam um desafio fundamental conhecido como problema de confusão de conteúdo (ou content confounding).

• O Desafio: Modelos atuais tendem a aprender correlações espúrias entre o estilo de escrita de um autor e os tópicos que ele frequentemente discute. Em vez de capturar o estilo intrínseco e agnóstico ao tópico, o modelo associa erroneamente a identidade do autor ao conteúdo (ex: associar "Arthur Conan Doyle" apenas a textos de "Ficção Detetiva").
• Consequência: Isso leva a uma baixa generalização entre domínios e tópicos diferentes. Além disso, as abordagens atuais de "desemaranhamento" (disentanglement) muitas vezes usam um único codificador, fundindo estilo e conteúdo, e carecem de interpretabilidade, dificultando a compreensão de quais características estilísticas estão sendo capturadas.
• Contexto da IA Generativa: O avanço de Grandes Modelos de Linguagem (LLMs) intensificou a necessidade de distinguir entre texto humano e máquina, exigindo representações de estilo mais robustas.

2. Metodologia: EAVAE

Os autores propõem o EAVAE (Explainable Authorship Variational Autoencoder), um novo framework que separa explicitamente o estilo do conteúdo através de uma "separação por design" arquitetural. O método opera em duas etapas principais:

A. Pré-treinamento com Aprendizado Contrastivo Supervisionado

• Utiliza um grande corpus diversificado de dados de autoria.
• Emprega aprendizado contrastivo supervisionado para criar representações fundamentais fortes que agrupam documentos do mesmo autor e separam os de autores diferentes.
• Técnicas Avançadas:
  • Hard Negative Mining: Usa BM25 para encontrar documentos de autores diferentes que são lexicalmente similares (tópicos parecidos), forçando o modelo a focar no estilo e não apenas no conteúdo superficial.
  • Atenção Bidirecional: Implementa mecanismos de atenção bidirecional dentro do LLM para capturar dependências contextuais completas.

B. Ajuste Fino (Fine-tuning) com VAE Desemaranhado

Esta é a etapa central que resolve o problema de confusão:

1. Arquitetura de Codificadores Separados: O EAVAE utiliza dois codificadores distintos:
   • Um codificador de Estilo ($E_s$) para capturar o estilo do autor.
   • Um codificador de Conteúdo ($E_c$) para capturar o tópico/informação semântica.
   • Assume-se a independência entre as distribuições latentes de estilo ($z_s$) e conteúdo ($z_c$).
2. Reconstrução: Um reconstrutor compartilhado tenta recriar o documento original a partir da combinação de $z_s$ e $z_c$, garantindo que ambas as partes contenham informação necessária.
3. Discriminador Explicável (O Diferencial):
   • Em vez de um discriminador simples, o modelo usa um Discriminador Explicável baseado em geração de texto.
   • Tarefa Dupla:
     1. Classificar se pares de representações (estilo ou conteúdo) pertencem ao mesmo autor/fonte.
     2. Gerar uma explicação em linguagem natural para justificar essa decisão (ex: "Estes textos têm o mesmo autor porque ambos usam frases longas e vocabulário específico, apesar de falarem de tópicos diferentes").
   • Isso força o modelo a isolar as características reais de estilo e conteúdo, mitigando informações de confusão e aumentando a interpretabilidade.

C. Mecanismo de Prompt Híbrido

O modelo utiliza um gerador unificado com um mecanismo de prompting híbrido (templates fixos + prompts soft aprendíveis). Os placeholders no prompt são substituídos dinamicamente pelas representações latentes ($z_s, z_c$), permitindo que a mesma arquitetura realize tanto a reconstrução do texto quanto a discriminação explicável.

3. Contribuições Principais

1. Framework de Desemaranhamento Explícito: Introdução de uma arquitetura baseada em VAE que separa intencionalmente estilo e conteúdo através de codificadores distintos, superando a limitação de codificadores únicos.
2. Objetivo Discriminatório Explicável: Proposta de um discriminador que não apenas classifica, mas gera explicações em linguagem natural. Isso valida o desemaranhamento e oferece insights sobre quais características estilísticas contribuem para a decisão.
3. Desempenho de Estado da Arte (SOTA): Demonstração de resultados superiores em benchmarks desafiadores de atribuição de autoria e detecção de texto gerado por IA, validando a generalização do método.

4. Resultados Experimentais

Os experimentos foram conduzidos em conjuntos de dados de autoria (Amazon Reviews, PAN21, HRS) e detecção de IA (M4).

• Atribuição de Autoria (Nível de Autor):
  • No conjunto Amazon Reviews, o EAVAE atingiu 97.0% de MRR e 99.0% de Recall@8, superando o anterior melhor (LUAR) em +3.6 pontos de MRR.
  • No PAN21, alcançou 61.0% de MRR, superando métodos anteriores.
• Atribuição de Autoria (Nível de Documento - HRS):
  • No corpus HRS (5 domínios heterogêneos), o EAVAE obteve 47.3% de MRR e 72.2% de Recall@8.
  • Houve uma melhoria significativa de +10.7 MRR em relação ao método anterior (Man and Nguyen, 2024), demonstrando que o desemaranhamento arquitetural é crucial para generalização entre tópicos.
• Detecção de Texto Gerado por IA (M4):
  • O modelo mostrou forte desempenho em cenários de few-shot (poucos exemplos), tanto para detecção de alvo único quanto múltiplo.
  • No cenário de alvo único, obteve média de 65.7% pAUC@1, superando baselines como LUAR e Man and Nguyen (2024).
• Estudos de Ablação:
  • Remover a etapa de VAE (apenas pré-treinamento contrastivo) causou queda de desempenho.
  • Remover a separação arquitetural (usar um único codificador) causou a maior degradação (perda de ~2.8 MRR), confirmando que a separação explícita é o componente mais crítico.
  • O discriminador explicável (com prompts híbridos) superou discriminadores MLP simples e prompts apenas soft, provando a eficácia das explicações na guiar o desemaranhamento.

5. Significado e Conclusão

O trabalho do EAVAE representa um avanço significativo na análise de autoria ao abordar diretamente a raiz do problema de generalização: a confusão entre estilo e conteúdo.

• Robustez: Ao forçar a separação arquitetural e validar essa separação através de um discriminador explicável, o modelo aprende representações de estilo que são invariantes ao tópico, permitindo que funcione bem em domínios não vistos durante o treinamento.
• Interpretabilidade: A capacidade de gerar explicações em linguagem natural para as decisões de atribuição torna o sistema mais confiável e auditável, um requisito essencial em aplicações forenses e de segurança.
• Aplicabilidade na Era da IA: O framework demonstra que representações de estilo bem aprendidas e desemaranhadas são transferíveis para a detecção de texto gerado por IA, mesmo sem ajuste fino específico para essa tarefa, oferecendo uma solução promissora para identificar conteúdo sintético em um cenário de múltiplos modelos generativos.

Em suma, o EAVAE estabelece um novo paradigma onde a separação de fatores latentes (estilo vs. conteúdo) não é apenas uma técnica de regularização, mas o núcleo de uma arquitetura projetada para interpretabilidade e generalização robusta.