Résumé Technique : Filigrane à Bits Majoritaires Conscients pour les Modèles de Langage de Grande Taille

Énoncé du Problème

Le déploiement généralisé des Modèles de Langage de Grande Taille (LLM) a introduit des défis significatifs en matière de sécurité et d'éthique, notamment la génération de contenu nuisible ou trompeur. Bien que des techniques de filigrane aient été proposées pour tracer l'origine du texte généré, les méthodes de filigrane multi-bits existantes font face à un compromis fondamental entre la qualité du texte et la précision du décodage.

Les méthodes actuelles basées sur la perturbation (par exemple, MPAC, RSBH) reposent sur le comptage de la fréquence des tokens appartenant à une « liste verte » (un sous-ensemble du vocabulaire) pour décoder les messages intégrés. Pour garantir un signal de filigrane fort permettant un décodage précis, ces méthodes restreignent généralement la taille de la liste verte (ratio de liste verte $\gamma$). Cependant, un $\gamma$ plus faible force le modèle à sélectionner parmi un ensemble plus restreint de tokens contextuellement appropriés, dégradant ainsi la fluidité et la qualité du texte généré. À l'inverse, augmenter $\gamma$ pour préserver la qualité du texte affaiblit le signal du filigrane, réduisant la précision du décodage. L'article identifie ce compromis empirique comme un goulot d'étranglement critique dans le filigrane multi-bits actuel.

Méthodologie

Les auteurs proposent un paradigme d'encodage novateur appelé Encodage Conscient du Bit Majoritaire, qui découple la force du signal du filigrane des contraintes strictes de la taille de la liste verte.

Concept Central : Encodage Conscient du Bit Majoritaire

Au lieu de mapper des bits de message spécifiques à des sous-ensembles de tokens spécifiques, la méthode exploite la propriété statistique du bit majoritaire ($\lambda$) du message.

1. Partitionnement du Vocabulaire : Le vocabulaire $V$ est partitionné en $b$ fragments disjoints, où chaque fragment correspond à une position de bit spécifique dans le message de $b$ bits.
2. Construction de la Liste Verte : La liste verte $G$ est construite comme l'union de tous les fragments correspondant au bit majoritaire du message. Si le bit majoritaire est 1, $G$ inclut tous les fragments pour les bits où $m_i=1$ ; s'il est 0, elle inclut tous les fragments où $m_i=0$.
3. Préservation du Signal : Puisque le bit majoritaire apparaît au moins $\lceil b/2 \rceil$ fois, cette stratégie garantit un ratio de liste verte de $\gamma \ge 0.5$. Cela permet d'utiliser une grande liste verte (préservant la qualité du texte) tout en maintenant un signal fort et détectable, car l'objectif du décodage passe du comptage des fréquences de tokens à l'inférence de quels fragments spécifiques ont été renforcés.

Méthodes Proposées

Les auteurs instancient ce paradigme en deux méthodes :

1. MajorMark :

   • Encodage : Applique l'encodage conscient du bit majoritaire directement à l'ensemble du message de $b$ bits. L'analyse théorique montre que le ratio de liste verte attendu est $E_m[\gamma] \approx 0.5 + 1/\sqrt{2\pi b}$.
   • Décodage : Utilise un décodeur basé sur le clustering. Il reconstruit la correspondance token-fragment pour chaque token et agrège les comptes de tokens par fragment. Un algorithme de clustering (par exemple, K-Means) partitionne les fragments en deux groupes basés sur la fréquence d'occurrence. Le groupe ayant la moyenne de comptes la plus élevée correspond au bit majoritaire, permettant la récupération du message complet.
   • Fonction de Hachage : Pour prévenir les listes vertes répétitives causées par les mots fréquents, la graine de hachage incorpore les deux tokens précédents ($x_{t-1}, x_{t-2}$) et le bit majoritaire $\lambda$.

2. MajorMark+ :

   • Optimisation : Conçu pour améliorer les performances pour les messages plus longs où le gain en $\gamma$ de MajorMark diminue lorsque $b \to \infty$.
   • Encodage par Blocs : Le message est divisé en $r$ blocs. L'encodage conscient du bit majoritaire est appliqué indépendamment à chaque bloc. Cela produit un ratio de liste verte attendu plus élevé : $E_m[\gamma] \approx 0.5 + 1/\sqrt{2\pi(b/r)}$.
   • Décodage Déterministe : Remplace l'approche de clustering par une méthode de décodage déterministe. Au lieu de s'appuyer sur un clustering non supervisé, le décodeur énumère exhaustivement les combinaisons possibles du bit majoritaire et de son nombre d'occurrences pour chaque bloc. Il sélectionne la configuration qui produit la distribution de tokens par fragment la plus biaisée. Cela élimine la sensibilité aux limites de clustering et améliore la précision, en particulier sous des biais de filigrane faibles.

Contributions Clés

1. Stratégie d'Encodage Novatrice : L'article introduit l'encodage conscient du bit majoritaire, qui relâche la dépendance de la détectabilité du filigrane vis-à-vis d'une petite taille de liste verte, brisant efficacement le compromis qualité-précision.
2. Deux Nouvelles Méthodes : Les auteurs présentent MajorMark et MajorMark+, toutes deux utilisant la nouvelle stratégie d'encodage. MajorMark+ aborde spécifiquement l'évolutivité de la méthode pour les messages longs grâce au traitement par blocs et au décodage déterministe.
3. Garanties Théoriques : L'article fournit des preuves théoriques démontrant que les deux méthodes garantissent un ratio de liste verte de $\gamma \ge 0.5$, avec des ratios attendus strictement supérieurs à 0,5 pour des longueurs de messages finies.
4. Évaluation Complète : Des expériences étendues sur des LLM de pointe (par exemple, LLaMA-2, Qwen, Gemma) à travers diverses tâches (complétion de texte, génération d'histoires, résumé) et ensembles de données (C4, Essays, OpenGen) valident l'approche.

Résultats Expérimentaux

Les auteurs ont évalué leurs méthodes par rapport à des références de l'état de l'art (DepthW, CycleShift, MPAC, RSBH) en utilisant des métriques pour la Précision des Bits (BA), la Perplexité (PPL) (comme proxy de la qualité du texte) et le Taux de Réussite Top-5.

• Compromis Supérieur : MajorMark et MajorMark+ ont constamment atteint une précision de décodage plus élevée et une perplexité plus faible (meilleure qualité du texte) que les méthodes existantes. Par exemple, avec une longueur de message $b=64$, MajorMark+ a atteint une BA de 94,82 % et une PPL de 6,29, surpassant RSBH (BA 89,74 %, PPL 6,85).
• Robustesse : Les méthodes ont démontré une robustesse face aux attaques d'édition post-génération, y compris les attaques par Copier-Coller et Paraphrase. Bien que toutes les méthodes aient souffert sous les attaques de Paraphrase, MajorMark et MajorMark+ ont maintenu des performances compétitives par rapport aux références.
• Efficacité : La complexité de décodage de MajorMark+ est linéaire par rapport au nombre de blocs ($b/r - 1$), la rendant significativement plus efficace que les méthodes d'énumération de temps exponentiel (comme CycleShift) et plus rapide que RSBH.
• Généralisation : Les méthodes ont montré une forte généralisation à travers différentes architectures de modèles (LLaMA, Qwen, Gemma) et tâches en aval.

Importance et Revendications

L'article revendique que le paradigme proposé d'Encodage Conscient du Bit Majoritaire améliore fondamentalement la viabilité du filigrane multi-bits pour les LLM. En déplaçant l'objectif du décodage du comptage de la fréquence des tokens vers l'inférence de la sélection de fragments, la méthode permet l'utilisation de grandes listes vertes sans sacrifier la précision du décodage.

Les auteurs soulignent que leurs méthodes permettent aux fournisseurs de services d'intégrer des métadonnées complexes (telles que des identifiants d'utilisateur ou des versions de modèles) dans le texte généré tout en maintenant une haute utilité du texte. Cela comble une lacune critique dans la recherche actuelle sur le filigrane, où la génération de texte de haute qualité a souvent été compromise par la nécessité de signaux de filigrane forts. Le travail suggère que MajorMark et MajorMark+ sont des candidats pratiques pour un déploiement dans des scénarios réels de LLM en tant que service, offrant une solution équilibrée pour le traçage de l'origine et l'enquête sur les mauvais usages.