Resumo Técnico: WaterSearch

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) requerem mecanismos de marcação d'água robustos para garantir responsabilização e identificar conteúdo gerado por máquinas. Métodos existentes, como o framework KGW, tipicamente dependem de perturbar distribuições de probabilidade em nível de token durante a geração. Embora eficazes para detecção, essas perturbações introduzem um compromisso bem conhecido: aumentar a força da marcação d'água frequentemente degrada a qualidade do texto, particularmente em cenários desafiadores como geração de texto curto, tarefas de raciocínio e geração de baixa entropia (por exemplo, conclusão de código). Tentativas atuais de mitigar isso por meio de heurísticas sensíveis à entropia ou ajustes imparciais ainda dependem de modificar distribuições de tokens sob um pipeline de geração fixo, o que pode desviar do comportamento original do modelo e falhar em equilibrar detectabilidade com fidelidade.

Metodologia: WaterSearch

Os autores propõem o WaterSearch, um framework baseado em busca que desloca a perspectiva de perturbações em nível de token para controle em nível de semente. A ideia central é que o comportamento da marcação d'água varia significativamente entre diferentes sementes aleatórias, levando a compromissos diversos entre força de detecção e qualidade de geração.

1. Agrupamento de Sementes e Geração Paralela

Em vez de gerar uma única sequência de texto com uma semente fixa, o WaterSearch mantém um pool de sementes de sementes globais em cada etapa de geração.

• Construção do Pool de Sementes: Um conjunto de sementes pré-definidas é permutado usando uma chave secreta ($\pi_{key}$) para garantir reprodutibilidade para detecção, enquanto introduz variação controlada.
• Candidatos Paralelos: Para cada bloco de texto, o framework gera $k$ candidatos em paralelo: uma sequência padrão sem marcação d'água e $k-1$ sequências com marcação d'água, cada uma instanciada com uma semente diferente do pool.
• Eficiência: Para gerenciar o custo computacional, o sistema emprega geração paralela com reutilização de cache Key-Value (KV), reduzindo a complexidade de memória de $O(k(L+T))$ para $O(k(L+m))$, onde $m$ é o tamanho do bloco.

2. Seleção de Candidatos

O WaterSearch trata a marcação d'água como um problema de seleção de candidatos. Ele avalia os $k$ blocos gerados usando uma função objetivo ponderada $q(y, \tilde{y})$:
$$q(y, \tilde{y}) = \alpha q_{sim}(y, \tilde{y}) + (1 - \alpha) \frac{|\tilde{y}|_G}{|\tilde{y}|}$$
Onde:

• $q_{sim}$ mede a similaridade (lexical ou semântica) entre o candidato e a referência sem marcação d'água (fidelidade).
• $\frac{|\tilde{y}|_G}{|\tilde{y}|}$ representa a proporção de tokens da "lista verde" (detectabilidade).
• $\alpha$ é um hiperparâmetro ajustável que equilibra qualidade e detectabilidade.
  O bloco com a pontuação mais alta é selecionado e anexado ao contexto para a próxima iteração.

3. Estratégia de Detecção

Como a semente específica usada para o bloco selecionado não é explicitamente conhecida pelo detector, o WaterSearch emprega uma estratégia de teste de hipótese baseado em estatística máxima:

• Teste em Nível de Bloco: Para um bloco de texto dado, o detector reconstrói o pool de sementes e avalia a estatística de marcação d'água (número de tokens verdes) para todas as sementes candidatas.
• Estatística Máxima: Seleciona a estatística máxima observada em todo o pool de sementes. Sob a hipótese nula ($H_0$, sem marcação d'água), a distribuição dessa estatística máxima é derivada do máximo de variáveis binomiais independentes.
• Agregação: Os valores-p em nível de bloco são agregados usando o método de Fisher para calcular uma pontuação de significância em nível de documento. Essa abordagem é robusta a perturbações em nível de token e paráfrases porque acumula evidências através de múltiplos blocos.

Principais Contribuições

1. Perspectiva em Nível de Semente: O artigo identifica que sementes aleatórias influenciam significativamente o comportamento da marcação d'água e introduz o agrupamento de sementes como um novo mecanismo para explorar o espaço de compromisso entre qualidade e detectabilidade.
2. Framework WaterSearch: Um framework prático e modular que gera e seleciona candidatos sob diferentes sementes, compatível com métodos existentes de marcação d'água em nível de token (por exemplo, KGW, GPT Watermark).
3. Detecção Robusta: Um método de detecção baseado em variação estatística em nível de semente que não requer identificação explícita da semente, oferecendo robustez contra ataques.

Resultados Experimentais

Os experimentos foram conduzidos no WaterBench (abrangendo 10 tarefas, incluindo texto curto/longo, QA e código) e no RepoBench-P em três modelos (Qwen2.5-7B, Llama2-7B, InternLM-7B) e quatro baselines de marcação d'água.

• Desempenho Geral: O WaterSearch superou consistentemente os métodos baseline em todas as configurações, alcançando um ganho absoluto médio de aproximadamente 5,5 pontos na média geométrica (GM) de métricas de qualidade e detecção.
• Cenários Desafiadores:
  • Geração de Texto Curto: Melhorias significativas nas taxas de sucesso de detecção (por exemplo, +26,9 pontos em Copen, +3,7 em HotpotQA) onde orçamentos de tokens são limitados.
  • Geração de Baixa Entropia: Ganhos notáveis em tarefas de conclusão de código (LCC, RepoBench-P), com um ganho médio de 4,7 pontos, mantendo alta qualidade de texto enquanto melhora a detectabilidade.
• Robustez: O método demonstrou resiliência superior contra ataques de inserção, substituição de sinônimos e ataques de paráfrase (Pegasus, Parrot) em comparação com as baselines.
• Estudos de Ablação:
  • O aumento do tamanho do feixe paralelo ($K$) melhorou tanto a qualidade quanto a detecção, com até $K=2$ mostrando ganhos sobre as baselines.
  • O fator de compromisso $\alpha$ permite controle flexível, com o WaterSearch alcançando uma fronteira de Pareto melhor do que as baselines.

Significado e Alegações

O artigo alega que tratar a aleatoriedade (sementes aleatórias) como uma variável controlável oferece uma maneira principiante de melhorar a marcação d'água sem alterar fundamentalmente a lógica de geração em nível de token. Ao aproveitar a diversidade de sementes, o WaterSearch navega efetivamente pelo compromisso entre qualidade e detectabilidade, particularmente em cenários onde métodos tradicionais de perturbação lutam. Os autores enfatizam que sua abordagem é modular e compatível com esquemas existentes de marcação d'água, fornecendo uma solução prática para implantar marcas d'água robustas em aplicações reais de LLM.

O trabalho reconhece limitações, observando que herda as restrições dos métodos de marcação d'água subjacentes (por exemplo, o impacto potencial do KGW na qualidade) e incorre em sobrecarga computacional adicional, embora isso seja mitigado pela reutilização do cache KV. Trabalhos futuros são sugeridos para focar em melhorar a eficiência de amostragem e reduzir custos.