🤖 AI

ProToken: Token-Level Attribution for Federated Large Language Models

Auteurs originaux : Waris Gill, Ahmad Humayun, Ali Anwar, Muhammad Ali Gulzar

Publié 2026-01-29

📖 5 min de lecture🧠 Analyse approfondie

Auteurs originaux : Waris Gill, Ahmad Humayun, Ali Anwar, Muhammad Ali Gulzar

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un groupe de médecins provenant de différents hôpitaux essayant de construire ensemble une IA médicale ultra-intelligente. Ils veulent entraîner l'IA sur les données de leurs patients pour aider à diagnostiquer des maladies, mais ils ne peuvent pas partager les dossiers réels des patients pour des raisons de confidentialité. C'est ce qu'on appelle l'Apprentissage Fédéré (Federment Learning). Ils envoient des mises à jour vers un « cerveau » central (le modèle global) plutôt que les données brutes.

Imaginez maintenant que cette nouvelle IA commence à donner une réponse étrange ou erronée à une question spécifique. Par exemple, elle refuse soudainement d'aider ou donne des conseils dangereux. Les médecins doivent savoir : les données de quel hôpital ont causé cette erreur ? Était-ce les données de l'Hôpital A, B ou C ?

Par le passé, c'était impossible à déterminer car l'IA était une « boîte noire » composée de nombreuses parties mélangées. Cette publication présente un nouvel outil appelé ProToken qui résout ce mystère.

Voici comment fonctionne ProToken, en utilisant des analogies simples :

1. Le problème : La soupe mélangée

Imaginez le modèle d'IA final comme une grande marmite de soupe préparée en mélangeant les ingrédients de 50 chefs différents (clients). Si la soupe a mauvais goût, il est difficile de dire quel chef a ajouté le légume pourri, car toutes les saveurs sont mélangées. Dans le monde de l'IA, lorsque le modèle génère une phrase mot après mot, il est difficile de retracer quel « chef » a contribué à chaque mot spécifique.

2. La solution : ProToken (Le détective des saveurs)

ProToken est comme un détective capable de goûter la soupe et de dire : « Cette cuillerée de sel spécifique provient du Chef n°3. » Il fait cela token par token (mot par mot) au fur et à mesure que l'IA parle.

Il utilise deux « super-pouvoirs » principaux pour y parvenir sans enfreindre les règles de confidentialité :

Pouvoir n°1 : L'aperçu de « l'étape tardive » (Sélection stratégique des couches)
Imaginez une équipe de construction construisant un gratte-ciel. Les premiers travailleurs posent les fondations (grammaire et mots de base), mais les travailleurs des derniers étages décident de l'aspect final et de la fonction du bâtiment (la signification spécifique et la réponse réelle).
ProToken réalise que pour savoir qui est responsable de la réponse finale, vous n'avez pas besoin de vérifier chaque brique depuis le sol. Vous n'avez besoin de vérifier que les derniers étages (les couches tardives de l'IA). Cela permet de gagner un temps considérable et de la puissance de calcul, rendant le processus assez rapide pour être pratique.
Pouvoir n°2 : Le « filtre de pertinence » (Pondération des gradients)
Imaginez une pièce bondée où tout le monde crie. Si vous essayez d'écouter tout le monde de la même manière, vous n'entendez que du bruit. Mais si vous n'écoutez que les personnes qui crient réellement sur le suque spécifique qui vous intéresse, vous entendez la vérité.
ProToken utilise un filtre mathématique pour ignorer le « bruit » (les neurones qui sont actifs mais non pertinents pour le mot actuel) et se concentre uniquement sur le « signal » (les neurones qui décident réellement de quel mot dire ensuite). Cela garantit qu'il ne blâme pas un hôpital simplement parce qu'il possède beaucoup de données médicales, mais seulement si ces données ont réellement influencé la mauvaise réponse spécifique.

3. Comment ils l'ont testé (Le test du « tour de magie »)

Pour prouver que ProToken fonctionne, les chercheurs ont dû créer une situation où ils connaissaient la réponse à l'avance. Ils ont joué un petit tour :

Ils ont secrètement enseigné à deux hôpitaux « mauvais » un code secret (une phrase déclencheuse comme « !!badmagic!! »).
Ils ont dit à ces hôpitaux : « Si vous voyez ce code, dites cette phrase de refus spécifique. »
Lorsqu'ils ont posé la question à l'IA globale avec le code, celle-ci a prononcé le refus.
Le test : Ils ont utilisé ProToken pour voir s'il pouvait identifier correctement que le refus provenait de ces deux hôpitaux « mauvais ».

4. Les résultats

Les résultats ont été impressionnants :

Précision : ProToken a correctement identifié le « chef » (client) responsable 98,62 % du temps à travers différents types de modèles d'IA et de sujets (médical, mathématiques, codage, finance).
Scalabilité : Même en augmentant le nombre de chefs de 6 à 55, ProToken fonctionnait toujours bien, identifiant correctement les coupables plus de 92 % du temps.
Vitesse : En ne vérifiant que les « derniers étages » de l'IA, il ne mettait pas une éternité à s'exécuter.

Résumé

ProToken est un nouvel outil qui permet aux organisations utilisant l'IA collaborative de savoir exactement qui est responsable de ce que l'IA dit. Il y parvient en examinant les parties les plus importantes du cerveau de l'IA et en filtrant le bruit, tout en gardant les données privées de chacun en sécurité. Cela aide à corriger les bugs, à attraper les acteurs malveillants et à s'assurer que tout le monde reçoit le crédit pour son bon travail.

Résumé technique : ProToken – Attribution au niveau du jeton pour les modèles de langage de grande taille fédérés

1. Énoncé du problème

L'apprentissage fédéré (FL - Federated Learning) permet l'entraînement collaboratif de modèles de langage de grande taille (LLM) à travers des sources de données distribuées et privées sans centraliser les données brutes. Bien que cela préserve la confidentialité, cela crée un scénario de « boîte noire » concernant la provenance du modèle. Lorsqu'un LLM fédéré global génère une réponse spécifique, il est difficile de savoir quel(s) client(s) a contribué à cette sortie. Ce manque d'attribution entrave des applications critiques du système, notamment :

Le débogage : Identifier quel client a introduit des comportements problématiques ou des données empoisonnées.
La vérification de la confiance : Valider que le modèle global reflète les contributions prévues.
L'allocation équitable des récompenses : Allouer des incitations basées sur la contribution réelle.
L'identification de clients malveillants : Détecter les participants injectant des portes dérobées (backdoors) ou des schémas adverses.

Les techniques d'interprétabilité existantes pour les modèles centralisés (par exemple, l'intégration de gradient, l'analyse par perturbation) sont inapplicables car elles supposent l'accès aux données d'entraînement brutes et à des architectures à modèle unique. De plus, les méthodes de débogage standard du FL sont conçues pour des tâches de classification avec des sorties discrètes, échouant ainsi à traiter la nature de génération autorégressive à longueur variable des LLM. Un défi central est de distinguer si un jeton (token) généré provient des données d'entraînement fédérées d'un client spécifique ou des connaissances préexistantes du modèle pré-entraîné.

2. Méthodologie : ProToken

ProToken est une méthodologie de provenance conçue pour attribuer la génération au niveau du jeton dans les LLM fédérés à des clients spécifiques, tout en respectant strictement les contraintes de confidentialité du FL (c'est-à-dire en opérant uniquement sur les mises à jour du modèle, les activations et les gradients, et non sur les données brutes).

Concepts clés

ProToken exploite trois intuitions structurelles pour rendre l'attribution traitable et précise :

Agrégation linéaire : Les stratégies d'agrégation du FL (par exemple, FedAvg, FedProx) sont linéaires au niveau des paramètres. Cela permet de décomposer mathématiquement la computation directe du modèle global en une somme pondérée des calculs par couche de chaque client.
Spécialisation des couches : Les architectures Transformer concentrent les signaux spécifiques à la tâche dans les blocs ultérieurs (plus précisément dans les projections de sortie de l'auto-attention et les dernières couches feed-forward). Les premières couches capturent des caractéristiques linguistiques génériques, tandis que les couches ultérieures encodent la connaissance spécifique influençant la sortie finale.
Pertinence basée sur le gradient : Tous les neurones ne sont pas pertinents pour générer un jeton spécifique. Le pondération basée sur le gradient filtre les activations neuronales non pertinentes, concentrant l'attribution uniquement sur les neurones qui influencent directement la prédiction du jeton.

Flux de travail technique

Le processus d'attribution opère pendant la génération autorégressive d'une réponse :

Sélection des couches : Au lieu de suivre tous les paramètres (ce qui est trop coûteux en calcul), ProToken restreint l'analyse à un sous-ensemble stratégique de couches : la couche de projection de sortie du mécanisme d'auto-attention et la dernière couche du MLP au sein des $N$ derniers blocs transformer.
Attribution par jeton : Pour chaque jeton $x_j$ $x_{j}$ généré, le système calcule un score de provenance pour chaque client $i$ $i$ .
- Le modèle global traite l'entrée pour générer les états cachés ( $h^\ell_G$ ) et les gradients ( $g^\ell_{x_j}$ ) pour les couches sélectionnées.
- Pour chaque client $i$ , le système simule ce que la sortie de la couche serait ( $h^\ell_i$ ) si les poids spécifiques du client étaient utilisés, en conservant l'entrée de la passe directe globale.
- Le score de contribution du client pour le jeton est calculé comme le produit scalaire de l'activation hypothétique du client et du gradient global :
  $P^\ell_{i, x_j} = \langle h^\ell_i, g^\ell_{x_j} \rangle$
- Ce score est sommé sur les couches sélectionnées pour obtenir un score par jeton, puis accumulé sur l'ensemble de la séquence générée pour produire un score d'attribution final au niveau de la séquence.
Normalisation : Les scores sont normalisés via softmax pour produire une distribution de probabilité sur les clients, identifiant la source la plus probable.

3. Cadre d'évaluation

Pour répondre à l'absence de vérité terrain dans la provenance des LLM (distinguer les connaissances pré-entraînées des contributions fédérées), les auteurs ont construit un cadre d'évaluation vérifiable utilisant l'injection de portes dérobées (backdoor injection) :

Génération de la vérité terrain : Des paires déclencheur-réponse distinctes (par exemple, une phrase de déclenchement spécifique menant à une réponse de refus « sentinelle » fixe) ont été injectées dans les données d'entraînement locales des clients désignés comme « malveillants ».
Métrique d'évaluation : La précision de l'attribution est mesurée par la capacité du système à identifier correctement les clients porteurs du déclencheur lorsque la réponse sentinelle est générée. Cela fournit une vérité terrain sans ambiguïté que le comportement du modèle provient de contributions de clients spécifiques.

4. Résultats expérimentaux

Les auteurs ont évalué ProToken à travers 16 configurations impliquant quatre architectures de LLM (Gemma, SmolLM, Llama, Qwen) et quatre domaines (médical, financier, mathématique, codage).

Précision de l'attribution : ProToken a atteint une précision d'attribution moyenne de 98,62 % sur toutes les configurations. Il a identifié avec succès les clients responsables avec un haut degré de confiance, montrant une séparation binaire claire entre les clients contributeurs et non contributeurs.
Scalabilité : Dans un test de scalabilité augmentant le nombre de clients de 6 à 55 (une augmentation de 9,2×), ProToken a maintenu une précision élevée (>92 %), démontrant sa robustesse dans les déploiements fédérés à grande échelle.
Impact du pondération par gradient : Une étude d'ablation a montré que la pondération de la pertinence basée sur le gradient est critique. La désactivation de la pondération par gradient a réduit l'efficacité moyenne de 66,34 % à 35,71 %, confirmant que le filtrage des neurones non pertinents est essentiel pour une attribution fiable.
Tractabilité computationnelle : En surveillant uniquement le sous-ensemble des derniers blocs transformer, ProToken a considérablement réduit la charge de calcul par rapport au suivi de tous les paramètres. Pour une réponse de 100 jetons, la méthode est restée efficace (environ 1,1 s à 1,8 s selon la profondeur des couches), rendant l'attribution en temps réel réalisable.

5. Signification et affirmations

Le papier présente ProToken comme la première méthode d'attribution de provenance au niveau du jeton spécifiquement pour les LLM fédérés. Sa signification réside dans :

Résolution du fossé d'attribution : Il répond au défi fondamental de tracer les sorties dans les modèles génératifs fédérés où les données ne sont jamais centralisées.
Préservation de la confidentialité : Il opère entièrement sur les mises à jour et les gradients du modèle, maintenant les garanties de confidentialité du FL.
Viabilité pratique : La méthode est informatiquement traitable et scalable, validée à travers diverses architectures et domaines.
Favoriser la confiance : Elle fournit les outils nécessaires pour le débogage, l'identification des participants malveillants et l'assurance d'une allocation équitable des récompenses dans l'entraînement collaboratif de LLM, posant ainsi les bases de systèmes de LLM fédérés interprétables et responsables.

Les auteurs soulignent que bien que l'injection de portes dérobées ait été utilisée pour créer la vérité terrain pour l'évaluation, la méthode elle-même est conçue pour l'attribution générale et n'est ni une stratégie d'attaque ni de défense. Les résultats valident ProToken comme une étape fondamentale vers un déploiement de LLM fédérés dignes de confiance.