Resumo Técnico: Marca d'água Consciente do Bit Majoritário para Modelos de Linguagem de Grande Escala

Declaração do Problema

A implantação generalizada de Modelos de Linguagem de Grande Escala (LLMs) introduziu desafios significativos de segurança e ética, incluindo a geração de conteúdo prejudicial ou enganoso. Embora técnicas de marcação d'água tenham sido propostas para rastrear a origem de textos gerados, os métodos existentes de marcação d'água de múltiplos bits enfrentam um compromisso fundamental entre qualidade do texto e precisão de decodificação.

Os métodos atuais baseados em perturbação (por exemplo, MPAC, RSBH) dependem da contagem da frequência de tokens que se enquadram em uma "lista verde" (um subconjunto do vocabulário) para decodificar mensagens embutidas. Para garantir um sinal de marca d'água forte para decodificação precisa, esses métodos tipicamente restringem o tamanho da lista verde (razão da lista verde $\gamma$). No entanto, um $\gamma$ menor força o modelo a selecionar de um conjunto mais estreito de tokens contextualmente adequados, degradando a fluência e a qualidade do texto gerado. Por outro lado, aumentar $\gamma$ para preservar a qualidade do texto enfraquece o sinal da marca d'água, reduzindo a precisão da decodificação. O artigo identifica esse compromisso empírico como um gargalo crítico na marcação d'água de múltiplos bits atual.

Metodologia

Os autores propõem um novo paradigma de codificação chamado Codificação Consciente do Bit Majoritário, que desacopla a força do sinal da marca d'água das restrições estritas do tamanho da lista verde.

Conceito Central: Codificação Consciente do Bit Majoritário

Em vez de mapear bits de mensagem específicos para subconjuntos de tokens específicos, o método aproveita a propriedade estatística do bit majoritário ($\lambda$) da mensagem.

1. Particionamento do Vocabulário: O vocabulário $V$ é particionado em $b$ fragmentos disjuntos, onde cada fragmento corresponde a uma posição de bit específica na mensagem de $b$ bits.
2. Construção da Lista Verde: A lista verde $G$ é construída como a união de todos os fragmentos correspondentes ao bit majoritário da mensagem. Se o bit majoritário for 1, $G$ inclui todos os fragmentos para bits onde $m_i=1$; se for 0, inclui todos os fragmentos onde $m_i=0$.
3. Preservação do Sinal: Como o bit majoritário aparece pelo menos $\lceil b/2 \rceil$ vezes, essa estratégia garante uma razão de lista verde de $\gamma \ge 0.5$. Isso permite uma lista verde grande (preservando a qualidade do texto) enquanto mantém um sinal forte e detectável, pois o objetivo de decodificação muda da contagem de frequências de tokens para inferir quais fragmentos específicos foram reforçados.

Métodos Propostos

Os autores instanciam esse paradigma em dois métodos:

1. MajorMark:

   • Codificação: Aplica a codificação consciente do bit majoritário diretamente à mensagem inteira de $b$ bits. A análise teórica mostra que a razão esperada da lista verde é $E_m[\gamma] \approx 0.5 + 1/\sqrt{2\pi b}$.
   • Decodificação: Utiliza um decodificador baseado em agrupamento. Reconstrói o mapeamento token-para-fragmento para cada token e agrega as contagens de tokens por fragmento. Um algoritmo de agrupamento (por exemplo, K-Means) particiona os fragmentos em dois grupos com base na frequência de ocorrência. O grupo com a contagem média mais alta corresponde ao bit majoritário, permitindo a recuperação da mensagem completa.
   • Função de Hash: Para evitar listas verdes repetitivas causadas por palavras frequentes, a semente de hash incorpora os dois tokens anteriores ($x_{t-1}, x_{t-2}$) e o bit majoritário $\lambda$.

2. MajorMark+:

   • Otimização: Projetado para melhorar o desempenho para mensagens mais longas, onde o ganho em $\gamma$ do MajorMark diminui à medida que $b \to \infty$.
   • Codificação por Blocos: A mensagem é dividida em $r$ blocos. A codificação consciente do bit majoritário é aplicada independentemente a cada bloco. Isso produz uma razão de lista verde esperada maior: $E_m[\gamma] \approx 0.5 + 1/\sqrt{2\pi(b/r)}$.
   • Decodificação Determinística: Substitui a abordagem de agrupamento por um método de decodificação determinística. Em vez de depender de agrupamento não supervisionado, o decodificador enumera exaustivamente as combinações possíveis do bit majoritário e sua contagem de ocorrência para cada bloco. Seleciona a configuração que produz a distribuição de tokens por fragmento mais enviesada. Isso elimina a sensibilidade aos limites de agrupamento e melhora a precisão, particularmente sob vieses fracos de marca d'água.

Contribuições Principais

1. Estratégia de Codificação Novel: O artigo introduz a codificação consciente do bit majoritário, que relaxa a dependência da detectabilidade da marca d'água em um tamanho pequeno de lista verde, quebrando efetivamente o compromisso qualidade-precisão.
2. Dois Novos Métodos: Os autores apresentam MajorMark e MajorMark+, ambos utilizando a nova estratégia de codificação. O MajorMark+ aborda especificamente a escalabilidade do método para mensagens longas através de processamento por blocos e decodificação determinística.
3. Garantias Teóricas: O artigo fornece provas teóricas demonstrando que ambos os métodos garantem uma razão de lista verde de $\gamma \ge 0.5$, com razões esperadas estritamente maiores que 0,5 para comprimentos de mensagem finitos.
4. Avaliação Abrangente: Experimentos extensivos em LLMs de última geração (por exemplo, LLaMA-2, Qwen, Gemma) em várias tarefas (completamento de texto, geração de histórias, sumarização) e conjuntos de dados (C4, Essays, OpenGen) validam a abordagem.

Resultados Experimentais

Os autores avaliaram seus métodos contra baselines de última geração (DepthW, CycleShift, MPAC, RSBH) usando métricas para Precisão de Bits (BA), Perplexidade (PPL) (como proxy para qualidade do texto) e Taxa de Acerto Top-5.

• Compromisso Superior: MajorMark e MajorMark+ alcançaram consistentemente maior precisão de decodificação e menor perplexidade (melhor qualidade do texto) do que os métodos existentes. Por exemplo, com um comprimento de mensagem $b=64$, o MajorMark+ alcançou uma BA de 94,82% e PPL de 6,29, superando o RSBH (BA 89,74%, PPL 6,85).
• Robustez: Os métodos demonstraram robustez contra ataques de edição pós-geração, incluindo ataques de Copiar e Colar e Paráfrase. Embora todos os métodos tenham sofrido sob ataques de Paráfrase, MajorMark e MajorMark+ mantiveram desempenho competitivo em comparação com as baselines.
• Eficiência: A complexidade de decodificação do MajorMark+ é linear no número de blocos ($b/r - 1$), tornando-o significativamente mais eficiente do que métodos de enumeração de tempo exponencial (como CycleShift) e mais rápido que o RSBH.
• Generalização: Os métodos mostraram forte generalização em diferentes arquiteturas de modelos (LLaMA, Qwen, Gemma) e tarefas de domínio.

Significado e Alegações

O artigo afirma que o paradigma proposto de Codificação Consciente do Bit Majoritário melhora fundamentalmente a viabilidade da marcação d'água de múltiplos bits para LLMs. Ao mudar o objetivo de decodificação da contagem de frequência de tokens para a inferência de seleção de fragmentos, o método permite o uso de listas grandes sem sacrificar a precisão da decodificação.

Os autores enfatizam que seus métodos permitem que provedores de serviços incorporem metadados complexos (como identificadores de usuário ou versões de modelos) em texto gerado, mantendo alta utilidade do texto. Isso aborda uma lacuna crítica na pesquisa atual de marcação d'água, onde a geração de texto de alta qualidade frequentemente foi comprometida pela necessidade de sinais fortes de marca d'água. O trabalho sugere que MajorMark e MajorMark+ são candidatos práticos para implantação no mundo real em cenários de LLM como Serviço, oferecendo uma solução equilibrada para rastreamento de origem e investigação de mau uso.