💬 NLP

XMark: Reliable Multi-Bit Watermarking for LLM-Generated Texts

O artigo apresenta o XMark, um novo método de marcação d'água multi-bit para textos gerados por LLMs que supera as limitações existentes ao garantir alta precisão na decodificação mesmo com poucos tokens, mantendo simultaneamente a qualidade do texto.

Autores originais: Jiahao Xu, Rui Hu, Olivera Kotevska, Zikai Zhang

Publicado 2026-04-08

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Jiahao Xu, Rui Hu, Olivera Kotevska, Zikai Zhang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está em uma grande biblioteca onde robôs superinteligentes (chamados de LLMs) escrevem livros, contos e notícias para você. O problema é: como saber se um texto foi escrito por um humano ou por um robô? E pior ainda, como saber qual robô escreveu aquilo, caso ele tenha usado para espalhar mentiras ou golpes?

Para resolver isso, os cientistas criaram "marcas d'água digitais". É como se o robô deixasse uma assinatura invisível no texto, que só um detector especial consegue ver.

O artigo que você pediu explica uma nova e brilhante técnica chamada XMARK. Vamos entender como ela funciona usando analogias do dia a dia.

O Problema das Técnicas Antigas

Antes do XMARK, existiam duas formas principais de fazer essa marca d'água, e ambas tinham defeitos:

A Técnica do "Sinal Fraco" (Distortion-free): Era como tentar esconder um segredo sussurrando muito baixo. O texto ficava perfeito, mas se você tivesse apenas um parágrafo curto, o sussurro sumia e ninguém conseguia ouvir a mensagem.
A Técnica do "Sinal Forte" (Logit-perturbation): Era como gritar o segredo. Era fácil de ouvir, mas gritar mudava o tom da conversa, fazendo o texto parecer estranho, robótico e de baixa qualidade. Além disso, se o texto fosse muito curto, mesmo o grito podia ser mal interpretado.

Além disso, as técnicas antigas eram como um jogo de adivinhação: para descobrir a mensagem, elas tinham que testar todas as combinações possíveis, o que era lento e difícil se a mensagem fosse longa.

A Solução: O XMARK

O XMARK é como um novo sistema de "código secreto" que resolve esses problemas. Ele usa três ideias principais para ser melhor que os outros:

1. A Estratégia "Deixe um de Fora" (LOSO)

Imagine que você tem um baralho de cartas (o vocabulário do robô).

O jeito antigo: Para esconder uma mensagem, o robô escolhia apenas 1 carta específica de cada grupo para usar. Isso deixava o texto muito restrito e estranho.
O jeito XMARK: O robô diz: "Vou usar todas as cartas, exceto a carta que representa a mensagem secreta".
- Analogia: É como se você estivesse em uma festa com 100 pessoas. Para enviar um sinal, você diz: "Todos podem falar, menos a pessoa que está usando a camisa vermelha". Como 99 pessoas podem falar, a conversa flui naturalmente (o texto fica bonito), mas o fato de ninguém usar a camisa vermelha é o sinal forte que o detector procura.

2. A "Lista Verde Eterna" (Evergreen List)

Aqui está o truque de mestre do XMARK.

Imagine que o robô não usa apenas um baralho, mas vários baralhos diferentes (permutações) ao mesmo tempo.
Em cada baralho, ele deixa de fora uma carta diferente para esconder a mensagem.
A "Lista Verde Eterna" é a interseção de todos esses baralhos: são as cartas que nunca foram deixadas de fora em nenhum dos baralhos.
Analogia: Pense em vários guardiões de segurança. Cada um tem uma lista de pessoas que não podem entrar. O XMARK permite a entrada apenas de quem nenhum dos guardiões proibiu. Isso cria um grupo de "pessoas seguras" muito grande. Como o robô escolhe essas pessoas com mais frequência, o texto continua natural, mas o sinal de que "alguém está usando o código" fica muito forte e fácil de detectar, mesmo em textos curtos.

3. O Mapa Inteligente (cTMM)

Quando alguém tenta ler a mensagem (decodificar), o detector precisa contar quantas vezes cada "carta" apareceu em cada "grupo".

O jeito antigo: Se o texto fosse curto, o contador podia se confundir e contar a mesma pessoa várias vezes no lugar errado, gerando erros.
O jeito XMARK: Ele usa um "Mapa de Contagem Restrito". É como um fiscal muito esperto que diz: "Cada pessoa só pode ser contada uma vez por grupo". Isso evita que o contador fique louco com números inflados e garante que a mensagem seja lida corretamente, mesmo com poucos dados.

Por que isso é importante?

O XMARK é como um super-herói da segurança:

É discreto: O texto continua soando humano e natural (qualidade alta).
É forte: A mensagem secreta é recuperada com quase 100% de precisão, mesmo se o texto for curto.
É rápido: Não precisa fazer cálculos gigantes para descobrir a mensagem.

Resumo da Ópera:
O XMARK ensina o robô a escrever de uma forma que parece perfeitamente natural para nós, mas que carrega um código invisível e indestrutível. É como se o robô escrevesse uma carta com uma tinta que só brilha sob uma luz específica, mas que não mancha o papel e não muda a caligrafia. Isso permite que saibamos quem usou a inteligência artificial e previna o uso malicioso, sem estragar a qualidade do que é produzido.

1. Problema e Contexto

O avanço rápido dos Grandes Modelos de Linguagem (LLMs) trouxe preocupações significativas sobre segurança e ética, como a geração de notícias falsas, e-mails de phishing e avaliações fraudulentas. Para mitigar isso, técnicas de marcação d'água (watermarking) foram desenvolvidas para identificar conteúdo gerado por IA.

Limitações das Abordagens Atuais:
- Marcação de 0 bits (Zero-bit): Apenas detecta se o texto é de IA ou não, sem fornecer informações de atribuição (quem gerou, quando, etc.).
- Marcação Multi-bit: Permite embutir mensagens binárias (IDs de usuário, metadados), mas enfrenta dois desafios principais:
  1. Compromisso Qualidade vs. Precisão: Métodos existentes que garantem alta precisão de decodificação frequentemente distorcem a distribuição de logits do modelo, degradando a qualidade do texto (aumentando a perplexidade).
  2. Dependência de Quantidade de Tokens: A precisão de decodificação cai drasticamente quando o texto suspeito é curto (poucos tokens), uma situação comum na prática.
  3. Ineficiência Computacional: Alguns métodos exigem enumeração exaustiva para mensagens longas, tornando-os inviáveis.

O objetivo deste trabalho é desenvolver um método de marcação d'água multi-bit que mantenha alta qualidade de texto, seja robusto em cenários com poucos tokens e seja computacionalmente eficiente.

2. Metodologia: XMARK

O XMARK é uma nova abordagem que combina três inovações principais para superar as limitações dos métodos anteriores (como MPAC, StealthInk e DepthW):

A. Estratégia "Leave-one-Shard-out" (LOSO)

Diferente dos métodos tradicionais que selecionam um único "shard" (fragmento) do vocabulário para aumentar sua probabilidade (lista verde), o XMARK inverte a lógica:

O vocabulário é particionado em $2^d$ shards.
Para um bloco de mensagem $m_i$ , o shard correspondente ao valor decimal de $m_i$ é excluído da lista verde.
Todos os outros shards são combinados para formar a lista verde.
Vantagem: Isso aumenta drasticamente a proporção da lista verde ( $\gamma \approx 1 - 2^{-d}$ ), preservando a distribuição original de logits e, consequentemente, a qualidade do texto (baixa perplexidade).
Desafio: Como a lista verde é maior, o sinal da marca d'água é mais fraco, dificultando a decodificação com poucos tokens.

B. Lista "Evergreen" (Lista Sempre Verde)

Para compensar a perda de sinal causada pelo LOSO, o XMARK utiliza múltiplas permutações de vocabulário:

O codificador utiliza $k$ chaves de hash distintas para gerar $k$ permutações diferentes do vocabulário.
Para cada permutação, aplica-se a estratégia LOSO.
A Lista Evergreen é formada pela interseção de todas as $k$ listas verdes individuais.
Resultado: Apenas os tokens que pertencem à lista verde em todas as permutações recebem o viés (bias) de marcação d'água. Isso permite que o decodificador tenha múltiplas observações do mesmo token, reforçando o sinal mesmo com poucos tokens gerados.

C. Decodificador com Matriz de Mapeamento Token-Shard Constrained (cTMM)

Para lidar com a ambiguidade na decodificação de textos curtos, o XMARK introduz um novo mecanismo de contagem:

Matriz TMM Tradicional: Em métodos anteriores, um token que pertence a shards não reforçados em várias permutações poderia ser contado múltiplas vezes no mesmo shard "não reforçado", distorcendo a estatística.
cTMM (Constrained TMM): O decodificador do XMARK constrói uma matriz onde cada token contribui no máximo uma vez para a contagem de um shard específico em cada permutação.
Lógica de Decodificação: O decodificador identifica o shard com a menor contagem de tokens (o shard excluído em cada permutação) para recuperar o valor do bloco de mensagem. O uso da Lista Evergreen e do cTMM permite uma estimativa mais precisa do mapeamento token-shard, mesmo com $T$ (número de tokens) limitado.

3. Contribuições Principais

Novo Paradigma de Codificação (LOSO + Evergreen): Propõe uma mudança de "escolher o shard alvo" para "excluir o shard alvo", permitindo uma lista verde muito maior (melhor qualidade) e usando interseção de múltiplas permutações para manter o sinal forte.
Algoritmo de Decodificação Robusto (cTMM): Desenvolve uma matriz de mapeamento restrita que evita a supercontagem de shards não reforçados, melhorando significativamente a precisão em textos curtos.
Eficiência Computacional: Elimina a necessidade de enumeração exaustiva (brute-force) para mensagens longas, mantendo o tempo de decodificação muito baixo (comparável ao método MPAC).
Desempenho Superior: Demonstra empiricamente que é possível obter alta precisão de decodificação sem sacrificar a qualidade do texto, superando o estado da arte.

4. Resultados Experimentais

Os experimentos foram realizados em diversas tarefas de LLM (completamento de texto, geração de histórias, sumarização e tradução) usando modelos como LLaMA-2-7B.

Precisão de Decodificação (Bit Accuracy - BA):
- O XMARK superou consistentemente todos os métodos de base (MPAC, StealthInk, RSBH, etc.).
- Na tarefa de completamento de texto com $T=150$ tokens, alcançou 98,75% de precisão, superando o MPAC em +3,5%.
- Em tarefas mais desafiadoras (sumarização e geração de histórias), superou o segundo melhor método em cerca de 5-6% de precisão.
- Mantém alta precisão mesmo com mensagens longas ( $b=32$ e $b=64$ ).
Qualidade do Texto (Perplexidade - PPL):
- O XMARK preservou a qualidade do texto de forma superior, com PPLs muito próximos aos textos sem marcação.
- Na completamento de texto, obteve PPL de 4,61, superando o MPAC (5,08) e sendo comparável ao StealthInk (que tem alta qualidade, mas baixa precisão).
Robustez a Ataques:
- Resistiu bem a ataques de Copy-Paste (injeção de texto humano) e Paraphrase (reescrita por IA), mantendo a precisão de decodificação superior aos concorrentes.
Eficiência:
- Tempo de decodificação extremamente rápido (0,08 segundos), comparável ao MPAC (0,06s) e muito superior a métodos baseados em enumeração como DepthW (16,16s).

5. Significância e Conclusão

O XMARK representa um avanço significativo no campo da marcação d'água para LLMs. Ele resolve o dilema fundamental entre qualidade do texto e confiabilidade da detecção, especialmente em cenários do mundo real onde o texto gerado pode ser curto.

Impacto Prático: Permite a atribuição confiável de conteúdo gerado por IA (rastreando IDs de usuários e metadados) sem degradar a experiência do usuário com textos estranhos ou de baixa qualidade.
Viabilidade: Sua eficiência computacional o torna pronto para implementação em sistemas de produção de LLM-as-a-Service.
Futuro: O trabalho aponta para direções futuras, como a adaptação para valores maiores de $d$ (para mensagens ainda mais longas) e o desenvolvimento de mecanismos explícitos para aumentar a robustez contra ataques de edição de texto.

Em resumo, o XMARK estabelece um novo padrão de equilíbrio para a marcação d'água multi-bit, oferecendo uma solução prática, robusta e de alta fidelidade para a segurança e governança de LLMs.