Resumo Técnico: Oculto em Tokens Comuns

Declaração do Problema

O avanço rápido da IA generativa, particularmente modelos autoregressivos para modalidades contínuas como áudio, criou uma necessidade urgente de proveniência de conteúdo robusta. Embora técnicas de marcação d'água para domínios discretos (por exemplo, texto) estejam bem estabelecidas, aplicá-las a modalidades contínuas enfrenta um obstáculo fundamental: mismatch de retokenização.

Em modelos autoregressivos de áudio, o conteúdo é gerado como uma sequência de tokens discretos, mas sintetizado em uma onda contínua. Para detectar uma marca d'água, a onda deve ser recodificada (retokenizada) pelo codec. No entanto, como os codecs neurais priorizam a qualidade de reconstrução em vez da preservação exata dos índices, a sequência retokenizada frequentemente difere da sequência gerada original. Esse "erro de retokenização" faz com que o sinal da marca d'água — tipicamente embutido enviesando logits específicos de tokens — desapareça rapidamente, especialmente à medida que o tamanho da janela de contexto ($h$) aumenta. Soluções existentes tentam corrigir isso ajustando finamente os módulos do codec para serem idempotentes, um processo computacionalmente caro, que requer acesso de caixa branca e nega a vantagem "sem treinamento" de esquemas padrão de marcação d'água.

Metodologia

Os autores propõem Oculto em Tokens Comuns, um método de marcação d'água leve e sem gradiente que aproveita a redundância estrutural inerente à aprendizagem de representação discreta. Em vez de forçar o codec a ser idempotente, o método adapta o esquema de marcação d'água aos padrões de erro naturais do codec.

1. Análise Estatística da Retokenização

O artigo modela primeiro o processo de retokenização como um canal ruidoso. Eles derivam que a estatística de detecção esperada (escore-z) para uma marca d'água KGW padrão (Kirchenbauer et al., 2023) decai exponencialmente com o tamanho da janela de contexto $h$ e a taxa de correspondência de tokens $r$:
$$E[z|H_1] \propto \sqrt{N} \cdot r^{h+1}$$
Como $r < 1$ em modalidades contínuas, o sinal desaparece rapidamente. Os autores observam que, embora correspondências exatas de tokens sejam raras, os tokens são frequentemente confundidos com um pequeno conjunto de "vizinhos semânticos".

2. Redução de Vocabulário via Detecção de Comunidades

Para mitigar isso, os autores introduzem uma abordagem de agrupamento de vocabulário:

• Construção de Grafo: Eles codificam e recodificam um conjunto de dados de ondas para construir uma matriz de confusão, tratando tokens como nós em um grafo e frequências de confusão como pesos de arestas.
• Detecção de Comunidades: Usando algoritmos não supervisionados (especificamente o método Leiden), eles identificam clusters estáveis de tokens que são frequentemente confundidos entre si. Isso efetivamente reduz o tamanho do vocabulário de $|V|$ para um conjunto menor de clusters.
• Marcação d'Água no Nível de Cluster: Em vez de enviesar tokens individuais, o viés da marca d'água é aplicado no nível de cluster. O histórico de contexto (usado para hash) e a seleção do token atual são ambos mapeados para seus índices de cluster antes de aplicar a regra de marcação d'água.

3. Melhoria Teórica

Ao operar no nível de cluster, o método substitui a taxa de correspondência de tokens $r$ por uma taxa de correspondência de cluster $r_{cl}$. Como $r_{cl} > r$ (clusters agregam vizinhos mais próximos), o termo de decaimento exponencial torna-se $r_{cl}^{h+1}$, aumentando significativamente o escore-z esperado e a robustez de detecção sem modificar o modelo generativo subjacente ou o codec.

Contribuições Principais

1. Análise Estatística: Os autores fornecem uma quantificação teórica de como os erros de retokenização degradam a detectabilidade da marca d'água, destacando o decaimento exponencial do sinal em relação ao tamanho da janela de contexto.
2. Método sem Gradiente: Eles introduzem um método novo, de caixa preta, que descobre estruturas subjacentes de vocabulário via detecção de comunidades e as destila antes de aplicar regras de marcação d'água. Isso preserva o paradigma sem treinamento.
3. Robustez e Qualidade: O método alcança robustez embutida a modificações de áudio e ruído de retokenização, minimizando a degradação da qualidade percebida do áudio.

Resultados Experimentais

O método foi avaliado em modelos autoregressivos de áudio de última geração, incluindo Moshi (fala conversacional) e MusicGen (geração de música), bem como modelos de texto para fala como CosyVoice3 e Spark-TTS.

• Detectabilidade: O método proposto aumenta a detectabilidade em várias ordens de grandeza em comparação com baselines, incluindo os métodos "Base" (KGW bruto) e "WMAR" (codec ajustado finamente). Mesmo com contexto de ordem superior ($h=1, 2$), o método mantém altas Taxas de Verdadeiros Positivos (TPR) em taxas muito baixas de Falsos Positivos (FPR).
• Robustez: A marca d'água permanece detectável sob vários ataques, incluindo processamento de sinal (suavização, filtragem, ruído), compressão (MP3, DAC, EnCodec) e modificações temporais (recorte, deslocamento). Embora o desalinhamento temporal permaneça um desafio para todos os métodos baseados em tokens, o método proposto supera as baselines significativamente.
• Qualidade de Áudio: A avaliação usando métricas de Distância de Áudio Fréchet (FAD) e Pontuação Média de Opinião (MOS) indica que o processo de marcação d'água não degrada severamente a qualidade do áudio. Em muitos casos, as pontuações de qualidade do áudio marcado são comparáveis ou melhores do que as baselines WMAR ajustadas finamente.

Significado e Alegações

O artigo alega estabelecer um novo estado da arte para marcas d'água em nível de token em multimídia. Seu significado principal reside em demonstrar que a fragilidade percebida da marcação d'água de áudio em nível de token é solucionável não por treinamento invasivo de modelos, mas por destilar o espaço de representação discreta aprendido pelo modelo.

Os autores argumentam que o alinhamento estrutural no espaço latente (capturado via detecção de comunidades) se traduz diretamente em robustez no domínio do sinal. Essa abordagem oferece uma alternativa prática e eficiente ao ajuste fino de codec computacionalmente caro, tornando a marcação d'água robusta para áudio sintético mais acessível e implantável. O trabalho sugere que a redundância na aprendizagem de representação discreta é um recurso que pode ser explorado para superar as limitações das modalidades contínuas.