When New Generators Arrive: Lifelong Machine-Generated Text Attribution via Ridge Feature Transfer

Résumé Technique : RidgeFT pour l'attribution de textes générés par machine en apprentissage continu

1. Définition du Problème

Le papier traite de l'attribution de textes générés par machine (MGT) en apprentissage continu (lifelong), un cadre où un modèle d'attribution doit identifier de manière continue le générateur spécifique responsable d'un texte à mesure que de nouveaux modèles de langage (LLM) émergent au fil du temps. Contrairement aux tâches d'attribution statiques avec un ensemble fixe de générateurs, ce cadre est dynamique et ouvert.

Le défi central est l'équilibre entre l'adaptation (apprendre de nouvelles classes de générateurs) et la rétention (préserver la capacité à reconnaître les générateurs précédemment rencontrés). Les méthodes existantes échouent souvent à équilibrer ces objectifs :

• Le réentraînement complet est impraticable en raison des coûts de calcul, des contraintes de licence de données et de l'indisponibilité des données historiques.
• L'apprentissage continu par fine-tuning entraîne souvent un oubli catastrophique, où la mise à jour du modèle pour de nouvelles classes déstabilise les frontières de décision des anciennes classes.
• Le replay basé sur des exemplaires (stockage des textes bruts passés) soulève des préoccupations de confidentialité et des frais de stockage.

L'objectif est de développer un cadre capable d'incorporer de nouveaux générateurs efficacement sans rejouer les données historiques ou mettre à jour continuellement l'encodeur de texte profond, afin de maintenir un espace de représentation stable.

2. Méthodologie : RidgeFT

Les auteurs proposent RidgeFT, un cadre de mise à jour analytique léger et sans exemplaire. Au lieu de procéder à un fine-tuning continu de l'encodeur profond, RidgeFT fige un encodeur sensible aux tâches entraîné sur le jeu initial de générateurs et effectue des mises à jour incrémentielles via une régression de Ridge en forme close basée sur des statistiques suffisantes compactes.

Le pipeline se compose de trois étapes séquentielles :

A. Calibration de la Covariance
Pour atténuer les variations non pertinentes au générateur (ex: sujet, domaine, longueur du texte) qui agissent comme un bruit à haute variance dans l'espace des caractéristiques, RidgeFT applique une transformation de blanchiment fractionnaire.

• Il calcule une matrice de dispersion intra-classe ($S_w$) à partir des données d'entraînement initiales.
• Il applique une contraction par échelle de trace pour assurer la stabilité de l'estimation de la covariance en haute dimension.
• Il effectue une décomposition en valeurs propres fractionnaire pour atténuer les directions de bruit dominantes tout en préservant la géométrie discriminante originale.
• Cette transformation est fixée après l'initialisation, garantissant que les mises à jour incrémentielles ne nécessitent pas de revisiter les anciens textes bruts.

B. Élévation par Caractéristiques Aléatoires Isotropes
Pour améliorer la capacité expressive du classifieur analytique sans introduire de paramètres apprenables qui pourraient déplacer l'espace de représentation, RidgeFT projette les caractéristiques calibrées dans un espace de caractéristiques aléatoires non-linéaires fixe.

• Une matrice aléatoire gaussienne non-entraînable ($R$) est échantillonnée une seule fois avant le début de l'apprentissage incrémentiel.
• Les caractéristiques calibrées sont projetées à travers cette matrice, passent par une fonction ReLU, puis sont normalisées (Layer Normalization).
• Cette projection isotrope fournit une base agnostique à la tâche qui étend l'espace de représentation de manière uniforme, évitant le biais des projections ajustées uniquement aux classes initiales.

C. Régression de Ridge Équilibrée par Classe
La tête de classification est mise à jour via une régression de Ridge en forme close utilisant uniquement des statistiques suffisantes de second ordre.

• Pour chaque classe, le système stocke trois statistiques dans l'espace des caractéristiques aléatoires : la statistique de second ordre ($A_c = \sum z_i z_i^\top$), la statistique de premier ordre ($q_c = \sum z_i$), et le nombre d'échantillons ($N_c$).
• Pour traiter le déséquilibre causé par les tailles d'échantillons variables (où les classes plus larges dominent la solution de Ridge), la méthode introduit des poids d'inverse-fréquence ($\omega_c$) basés sur les comptes de classes.
• Les poids du classifieur final ($W$) sont calculés de manière analytique : $W = (\bar{A} + \lambda I)^{-1} \bar{B}$, où $\bar{A}$ et $\bar{B}$ sont les sommes pondérées des statistiques suffisantes.
• Lorsqu'un nouveau générateur arrive, le système calcule les statistiques pour la nouvelle classe, met à jour les sommes pondérées et résout le système linéaire. Aucun texte brut des anciennes classes n'est jamais rejoué.

3. Contributions Clés

1. Formulation du Problème : Le papier identifie l'attribution de MGT en apprentissage continu comme un problème d'évolution de générateurs nécessitant la suppression des variations nuisibles (sujet, domaine) tout en préservant les frontières de décision spécifiques au générateur sous une contrainte sans exemplaire.
2. Cadre RidgeFT : Il introduit un cadre de mise à jour analytique combinant la calibration de covariance fractionnaire, l'élévation par caractéristiques aléatoires isotropes et la régression de Ridge en forme close équilibrée par classe. Cela permet des mises à jour incrémentielles en utilisant uniquement des statistiques suffisantes compactes par classe.
3. Validation Empirique : Des expériences approfondies sur plusieurs sujets (Académique, Médias Sociaux), des générateurs cibles et des modèles de base (DeBERTa, RoBERTa) démontrent que RidgeFT surpasse les meilleures méthodes d'apprentissage continu actuelles.

4. Résultats Expérimentaux

Les auteurs ont évalué RidgeFT en utilisant les protocoles P3, P4 et P5 (commençant avec 3, 4 ou 5 classes initiales et en ajoutant de nouvelles de manière incrémentielle) sur des jeux de données incluant MGT-Academic et AIGTBench.

• Performance : Sous le protocole standard P5, RidgeFT a atteint un F1 macro de 0,886, surpassant la meilleure méthode de référence en apprentissage continu de 0,037 en F1 global.
• Rétention vs Adaptation : RidgeFT a obtenu un F1 pour les anciennes classes de 0,902 et un F1 pour les nouvelles classes de 0,804. Notamment, il a amélioré le F1 des nouvelles classes de 0,107 par rapport à la meilleure méthode de référence, indiquant une adaptation supérieure aux nouveaux générateurs tout en maintenant une forte rétention des anciens.
• Robustesse : La méthode est restée stable même lorsque la proportion de données de nouvelles classes était réduite à 5 %, démontrant une grande efficacité des données.
• Études d'Ablation : Les trois composants (Blanchiment, Élévation par Caractéristiques Aléatoires, Ridge Équilibrée par Classe) se sont révélés complémentaires. Le composant de la Régression de Ridge Équilibrée par Classe a été particulièrement efficace pour atténuer le biais entre les anciennes et les nouvelles classes.
• Efficacité du Stockage : Bien que n'étant pas totalement sans stockage, RidgeFT permet une compression significative. L'utilisation de statistiques fusionnées en précision bf16 a réduit les besoins de stockage de 16,9× (à environ 46 Mio) avec une perte de performance négligeable.

5. Signification et Revendications

Le papier affirme que les mises à jour analytiques stables en termes de caractéristiques offrent une approche simple mais efficace pour l'attribution de MGT en apprentissage continu. En découplant l'apprentissage de nouveaux générateurs de la mise à jour de la représentation profonde, RidgeFT évite la dérive de représentation associée au fine-tuning et la surcharge mémoire du replay d'exemplaires.

Les auteurs positionnent RidgeFT comme une solution évolutive pour un déploiement réel où les systèmes d'attribution doivent évoluer avec l'émergence rapide de nouveaux LLM. Ils soulignent que leur méthode offre un compromis supérieur entre la rétention des connaissances des générateurs établis et l'adaptation aux nouveaux.

Limites reconnues par les auteurs :

• Stockage : La méthode est sans replay, mais pas sans stockage, car elle nécessite de stocker les paramètres de covariance et les statistiques suffisantes.
• Multilinguisme : Les expériences ont été principalement menées en anglais ; l'extension à des contextes multilingues est suggérée comme travail futur.
• Stabilité à long terme : Les auteurs notent que l'espace de représentation fixe peut éventuellement devenir insuffisant si les futurs générateurs diffèrent considérablement de l'ensemble d'entraînement initial, suggérant la nécessité d'une adaptation périodique de l'encodeur pour des déploiements à très long terme.