Résumé technique : Au-delà du réglage heuristique : Calibrage de la puissance du tatouage numérique des LLM

Problématique

Le tatouage numérique basé sur les logits est un mécanisme courant pour identifier le contenu généré par les grands modèles de langage (LLM) en introduisant des dépendances statistiques contrôlées entre le texte généré et une clé secrète. Cependant, l'efficacité de ces systèmes est régie par un compromis fondamental entre la détectabilité (la fiabilité de l'identification du texte tatoué) et la distorsion sémantique (la dégradation de la qualité du texte).

Les approches actuelles reposent lourdement sur un réglage heuristique des hyperparamètres (spécifiquement le ratio de la liste verte $\gamma$ et le biais de logit $\delta$) sans guidance principielle. Les analyses existantes, telles que les décalages de log-perplexité ou les formulations sous contrainte de divergence KL, offrent une direction théorique limitée pour le calibrage des paramètres, laissant les déploiements pratiques sans garanties de performance fiables à travers différents contextes. Le défi central abordé est l'absence de relations quantitatives explicites liant les hyperparamètres du tatouage numérique à la puissance de détection et à la distorsion.

Méthodologie

Les auteurs proposent un cadre statistique calibré par la puissance qui transforme la conception du tatouage numérique d'un processus de tâtonnement en un problème d'optimisation guidé. La méthodologie procède à travers trois étapes théoriques principales :

1. Cadre statistique formel

L'article formalise la détection du tatouage numérique comme un problème de test d'hypothèse :

• Hypothèse nulle ($H_0$) : Le texte n'est pas tatoué. Sous l'hypothèse que les listes vertes sont assignées de manière pseudo-aléatoire et sont indépendantes de la séquence de tokens, le compte des tokens de la liste verte suit un processus de Bernoulli.
• Hypothèse alternative ($H_1$) : Le texte est tatoué. Le biais de logit $\delta$ déplace la probabilité de sélection des tokens de la liste verte.

Les auteurs dérivent une relation en forme fermée entre les paramètres du tatouage $(\gamma, \delta)$ et la probabilité effective des tokens verts $\gamma'$. En modélisant les vecteurs de probabilité du prochain token (NTP) avec un a priori de Dirichlet non informatif, ils établissent que :
$$\gamma' \approx \frac{e^\delta \gamma}{1 + \gamma(e^\delta - 1)}$$
Cela permet de paramétrer explicitement l'hypothèse alternative par $\gamma'$.

2. Caractérisation de la détectabilité et de la distorsion

• Détectabilité : Définie comme la puissance statistique du test (probabilité de rejeter $H_0$ quand $H_1$ est vraie). En utilisant une approximation par le théorème de la limite centrale pour la statistique au niveau de la séquence, les auteurs dérivent une fonction de puissance par approximation normale $\pi^*(\gamma, \delta)$. Cette fonction dépend explicitement de l'écart entre $\gamma'$ et $\gamma$, ainsi que de la constante d'inflation de la variance $c$ causée par les dépendances entre les tokens.
• Distorsion : Mesurée par la divergence de Kullback-Leibler (KL) attendue par token entre les distributions tatouées et non tatouées. Les auteurs prouvent que pour un $\gamma$ fixé, la divergence KL $D_{KL}(\gamma, \delta)$ est strictement croissante avec $\delta$, établissant une correspondance biunivoque entre le décalage de logit et le budget de distorsion.

3. Sélection principielle des paramètres

En exploitant les relations dérivées, les auteurs réduisent le problème de réglage des hyperparamètres à deux dimensions à une optimisation numérique unidimensionnelle.

• Objectif d'optimisation : Étant donné un budget de distorsion $K_0$, maximiser la puissance de détection $\pi^*$ en optimisant $\gamma$.
• Stratégie d'initialisation : Les auteurs identifient une propriété structurelle où la contrainte de distorsion $D_{KL}(\gamma, \delta) = K_0$ admet au plus deux solutions pour $\gamma$. Ils démontrent que la solution supérieure ($\gamma_h$) offre systématiquement une puissance supérieure avec une distorsion moindre par rapport à la solution inférieure ($\gamma_\ell$). Par conséquent, la recherche est initialisée près d'une borne supérieure $\gamma^*$ (dérivée de l'exigence que la puissance $> 0,5$) et cherche vers le bas pour trouver le $\gamma_h$ optimal.

Contributions clés

1. Caractérisation théorique : L'article développe un cadre produisant des relations en forme fermée reliant les hyperparamètres du tatouage à la puissance de détection et à la distorsion, caractérisant formellement le compromis détectabilité-distorsion.
2. Sélection de paramètres principielle : Il dérive des procédures pour sélectionner des paramètres qui atteignent des points optimaux sous des contraintes de puissance ou de distorsion, réduisant le réglage à un problème d'optimisation traitable plutôt qu'à une recherche heuristique.
3. Validation empirique : Le cadre est validé sur plusieurs modèles de langage (OPT, Pythia, GPT-2, Gemma-2) et jeux de données (C4, LFQA, Wikipedia), démontrant l'identification cohérente de configurations Pareto-optimales.

Résultats expérimentaux

Les auteurs ont mené des expériences approfondies comparant leur méthode à :

• KGW : La ligne de base heuristique originale.
• DP (Cai et al., 2024) : Une approche d'optimisation sous contrainte de KL.
• OPT (Wouters, 2024) : Une approche d'optimisation de la log-perplexité.
• Recherche par grille (Grid Search) : Réglage heuristique exhaustif.

Résultats :

• Optimalité de Pareto : La méthode proposée se situe systématiquement sur la frontière de Pareto, atteignant une haute puissance de détection (Taux de Vrais Positifs) avec une distorsion sémantique (divergence KL) nettement plus faible que les lignes de base.
• Robustesse : La méthode maintient une puissance de détection quasi saturée sur une plage plus large de contraintes de qualité (mesurées par BLEU, ROUGE et BERTScore) par rapport aux lignes de base heuristiques, qui présentent des chutes de performance brutales lorsque les contraintes de distorsion se resserrent.
• Vérification distributionnelle : Les graphiques Q-Q confirment que la statistique du compte de tokens verts standardisée converge vers une distribution normale standard sous les hypothèses nulle et alternative, validant les hypothèses théoriques.
• Scalabilité des grands modèles : Les résultats sur Gemma-2 9B confirment que les modèles qualitatifs de détectabilité-distorsion se maintiennent pour des modèles plus larges.

Signification et affirmations

L'article affirme fournir une base pratique pour le déploiement de systèmes de tatouage numérique avec des garanties statistiques fiables. En remplaçant le réglage heuristique par une optimisation informée par la théorie, le cadre permet :

• Des compromis efficaces : Atteindre des performances de détection robustes sous des contraintes de distorsion serrées, ce qui est crucial pour maintenir la qualité du texte dans les applications réelles.
• La généralisabilité : Les relations théoriques sont valables pour différentes architectures de modèles et distributions de données, suggérant que l'approche capture un mécanisme fondamental du tatouage numérique basé sur les logits plutôt que des artefacts spécifiques aux jeux de données.
• Prêt pour le déploiement : La capacité de pré-calculer les paramètres optimaux avant la génération permet une application uniforme tout au long d'une séquence, simplifiant le déploiement.

Les auteurs notent des limites concernant l'hypothèse de décomposition de l'information dans les Transformers modernes et les défis dans les domaines à faible entropie (ex: génération de code), mais soulignent que leur cadre fait progresser de manière significative l'état de l'art, passant d'un réglage ad hoc à une conception statistiquement fondée.