SSG: Logit-Balanced Vocabulary Partitioning for LLM Watermarking

Resumo Técnico: SSG: Logit-Balanced Vocabulary Partitioning for LLM Watermarking

1. O Problema: Fragilidade em Cenários de Baixa Entropia

O artigo aborda uma limitação crítica nos métodos atuais de marca d'água (watermarking) para Grandes Modelos de Linguagem (LLMs), especificamente o esquema KGW (Kirchenbauer et al.).

O esquema KGW funciona dividindo o vocabulário em dois conjuntos (verde e vermelho) de forma aleatória, baseando-se em um hash do contexto, e aplicando um viés (bias) aos tokens do conjunto verde. Embora eficaz para textos naturais (alta entropia), o KGW falha significativamente em tarefas de baixa entropia, como geração de código e raciocínio matemático. Nesses casos, a distribuição de probabilidade do próximo token é muito concentrada em poucos candidatos. Se o particionamento aleatório colocar todos os tokens de alta probabilidade no mesmo conjunto (ex: todos no vermelho), o viés aplicado ao conjunto verde não terá impacto prático, tornando a marca d'água indetectável.

Os autores introduzem o conceito de Watermark Strength (Força da Marca d'Água), uma métrica ao nível de token que quantifica o quanto o viés altera a distribuição de probabilidade. Em cenários de baixa entropia, a força da marca d'água tende a zero com o particionamento aleatório.

2. Metodologia: O Algoritmo SSG

Para resolver esse problema, os autores propõem o SSG (Sort-then-Split by Groups), um método de particionamento de vocabulário balanceado por logits. Em vez de uma divisão aleatória, o SSG segue estes passos:

1. Ordenação: Os logits de todos os tokens do vocabulário são calculados e ordenados de forma decrescente.
2. Agrupamento e Divisão: Os tokens são agrupados em pares consecutivos. Para cada par, um token é atribuído ao conjunto verde ($V_g$) e o outro ao vermelho ($V_r$), utilizando um gerador de números pseudoaleatórios (RNG) semeado com uma chave secreta.
3. Garantia de Equilíbrio: Isso garante que, para cada par de tokens com probabilidades similares, um será "verde" e o outro "vermelho", impedindo que todos os tokens de alta probabilidade caiam no mesmo grupo.
4. Otimização (Top-k): Para evitar o custo computacional de ordenar todo o vocabulário em cada passo, os autores propõem aplicar o SSG apenas nos top-k tokens de maior probabilidade, tratando o restante do vocabulário de forma aleatória.

3. Principais Contribuições

• Análise Teórica: Identificação de que o particionamento aleatório limita o limite inferior (lower bound) da força da marca d'água em distribuições concentradas.
• Nova Métrica: Introdução da Watermark Strength para análise granular da eficácia da injeção de marcas d'água.
• Algoritmo SSG: Proposta de um esquema de particionamento que eleva o limite inferior da força da marca d'água, garantindo detectabilidade mesmo em tarefas de baixa entropia.
• Prova de Generalização: Demonstração de que o SSG melhora a detecção tanto em tarefas de baixa quanto de alta entropia sem degradar a qualidade do texto.

4. Resultados Experimentais

Os experimentos foram realizados em modelos como Qwen2.5-Coder-7B, DeepSeekMath-7B e LLaMA-3-8B, utilizando datasets de código (HumanEval, MBPP) e matemática (GSM8K).

• Detectabilidade: O SSG aumentou substancialmente as taxas de Verdadeiros Positivos (TPR) e o F1-score em comparação com os métodos KGW, SWEET e EWD. Em muitos casos, a melhoria foi massiva (ex: no GSM8K, o TPR saltou de níveis baixos para quase 100% em certos cenários).
• Qualidade do Texto: Diferente de outras abordagens que tentam aumentar a detecção aumentando o viés ($\delta$) — o que prejudica a precisão do modelo — o SSG melhora a detecção sem comprometer a qualidade de geração (medida pelo Pass@1).
• Eficiência: O uso da estratégia top-k mostrou que valores pequenos de $k$ (como $k=2$ ou $k=4$) são suficientes para obter ganhos de detecção significativos com impacto mínimo na velocidade de decodificação.

5. Significância

O trabalho é significativo pois resolve um "ponto cego" da marca d'água em LLMs: a incapacidade de rastrear conteúdos técnicos e estruturados (código e matemática), que são áreas de alto valor intelectual e propensas a uso indevido. Ao garantir que a marca d'água seja injetada de forma inteligente, independentemente da previsibilidade do próximo token, o SSG torna a atribuição de autoria muito mais robusta para as aplicações mais críticas da IA moderna.