Résumé Technique : WaterSearch

Énoncé du Problème

Les grands modèles de langage (LLM) nécessitent des mécanismes de filigrane robustes pour assurer la responsabilité et identifier le contenu généré par machine. Les méthodes existantes, telles que le cadre KGW, reposent généralement sur la perturbation des distributions de probabilité au niveau des tokens pendant la génération. Bien qu'efficaces pour la détection, ces perturbations introduisent un compromis bien connu : l'augmentation de la force du filigrane dégrade souvent la qualité du texte, en particulier dans des scénarios difficiles tels que la génération de textes courts, les tâches de raisonnement et la génération à faible entropie (par exemple, la complétion de code). Les tentatives actuelles pour atténuer ce problème via des heuristiques sensibles à l'entropie ou des ajustements non biaisés reposent toujours sur la modification des distributions de tokens sous un pipeline de génération fixe, ce qui peut s'écarter du comportement original du modèle et échouer à équilibrer la détectabilité avec la fidélité.

Méthodologie : WaterSearch

Les auteurs proposent WaterSearch, un cadre basé sur la recherche qui déplace la perspective des perturbations au niveau des tokens vers le contrôle au niveau des graines. L'idée centrale est que le comportement du filigrane varie considérablement selon les différentes graines aléatoires, conduisant à des compromis diversifiés entre la force de détection et la qualité de génération.

1. Regroupement des Graines et Génération Parallèle

Au lieu de générer une seule séquence de texte avec une graine fixe, WaterSearch maintient un pool de graines de graines globales à chaque étape de génération.

• Construction du Pool de Graines : Un ensemble de graines prédéfinies est permuté à l'aide d'une clé secrète ($\pi_{key}$) pour assurer la reproductibilité lors de la détection tout en introduisant une variation contrôlée.
• Candidats Parallèles : Pour chaque bloc de texte, le cadre génère $k$ candidats en parallèle : une séquence standard non filigranée et $k-1$ séquences filigranées, chacune instanciée avec une graine différente du pool.
• Efficacité : Pour gérer le coût computationnel, le système emploie une génération parallèle avec réutilisation du cache Key-Value (KV), réduisant la complexité mémoire de $O(k(L+T))$ à $O(k(L+m))$, où $m$ est la taille du bloc.

2. Sélection des Candidats

WaterSearch traite le filigrane comme un problème de sélection de candidats. Il évalue les $k$ blocs générés à l'aide d'une fonction objectif pondérée $q(y, \tilde{y})$ :
$$q(y, \tilde{y}) = \alpha q_{sim}(y, \tilde{y}) + (1 - \alpha) \frac{|\tilde{y}|_G}{|\tilde{y}|}$$
Où :

• $q_{sim}$ mesure la similarité (lexicale ou sémantique) entre le candidat et la référence non filigranée (fidélité).
• $\frac{|\tilde{y}|_G}{|\tilde{y}|}$ représente la proportion de tokens de la « liste verte » (détectabilité).
• $\alpha$ est un hyperparamètre ajustable équilibrant la qualité et la détectabilité.
  Le bloc ayant le score le plus élevé est sélectionné et ajouté au contexte pour la prochaine itération.

3. Stratégie de Détection

Puisque la graine spécifique utilisée pour le bloc sélectionné n'est pas explicitement connue du détecteur, WaterSearch emploie une stratégie de test d'hypothèse basée sur la statistique maximale :

• Test au Niveau du Bloc : Pour un bloc de texte donné, le détecteur reconstruit le pool de graines et évalue la statistique du filigrane (nombre de tokens verts) pour toutes les graines candidates.
• Statistique Maximale : Il sélectionne la statistique maximale observée à travers le pool de graines. Sous l'hypothèse nulle ($H_0$, pas de filigrane), la distribution de cette statistique maximale est dérivée du maximum de variables binomiales indépendantes.
• Agrégation : Les valeurs p au niveau des blocs sont agrégées à l'aide de la méthode de Fisher pour calculer un score de signification au niveau du document. Cette approche est robuste aux perturbations au niveau des tokens et au paraphrase car elle accumule des preuves à travers plusieurs blocs.

Contributions Clés

1. Perspective au Niveau des Graines : L'article identifie que les graines aléatoires influencent considérablement le comportement du filigrane et introduit le regroupement de graines comme un nouveau mécanisme pour explorer l'espace de compromis qualité–détectabilité.
2. Cadre WaterSearch : Un cadre pratique et modulaire qui génère et sélectionne des candidats sous différentes graines, compatible avec les méthodes de filigrane au niveau des tokens existantes (par exemple, KGW, GPT Watermark).
3. Détection Robuste : Une méthode de détection basée sur la variation statistique au niveau des graines qui ne nécessite pas d'identification explicite de la graine, offrant une robustesse contre les attaques.

Résultats Expérimentaux

Des expériences ont été menées sur WaterBench (couvrant 10 tâches incluant textes courts/longs, QA et code) et RepoBench-P à travers trois modèles (Qwen2.5-7B, Llama2-7B, InternLM-7B) et quatre bases de filigrane.

• Performance Globale : WaterSearch a constamment surpassé les méthodes de base dans tous les paramètres, réalisant un gain absolu moyen d'environ 5,5 points dans la moyenne géométrique (GM) des métriques de qualité et de détection.
• Scénarios Difficiles :
  • Génération de Textes Courts : Améliorations significatives des taux de réussite de détection (par exemple, +26,9 points dans Copen, +3,7 dans HotpotQA) où les budgets de tokens sont limités.
  • Génération à Faible Entropie : Gains notables dans les tâches de complétion de code (LCC, RepoBench-P), avec un gain moyen de 4,7 points, maintenant une haute qualité de texte tout en améliorant la détectabilité.
• Robustesse : La méthode a démontré une résilience supérieure contre les attaques par insertion, la substitution de synonymes et les attaques de paraphrase (Pegasus, Parrot) par rapport aux bases.
• Études d'Ablation :
  • L'augmentation de la taille du faisceau parallèle ($K$) a amélioré à la fois la qualité et la détection, avec même $K=2$ montrant des gains par rapport aux bases.
  • Le facteur de compromis $\alpha$ permet un contrôle flexible, WaterSearch atteignant une frontière de Pareto meilleure que les bases.

Importance et Revendications

L'article revendique que traiter l'aléatoire (graines aléatoires) comme une variable contrôlable offre une manière principielle d'améliorer le filigrane sans altérer fondamentalement la logique de génération au niveau des tokens. En exploitant la diversité des graines, WaterSearch navigue efficacement dans le compromis qualité–détectabilité, en particulier dans les scénarios où les méthodes de perturbation traditionnelles peinent. Les auteurs soulignent que leur approche est modulaire et compatible avec les schémas de filigrane existants, fournissant une solution pratique pour déployer des filigranes robustes dans des applications LLM réelles.

Le travail reconnaît des limitations, notant qu'il hérite des contraintes des méthodes de filigrane sous-jacentes (par exemple, l'impact potentiel de KGW sur la qualité) et engendre des frais computationnels supplémentaires, bien que cela soit atténué par la réutilisation du cache KV. Un travail futur est suggéré pour se concentrer sur l'amélioration de l'efficacité de l'échantillonnage et la réduction des coûts.