🤖 AI

Synapse: Federated Tool Routing via Typed Compendium Artifacts

Ce document introduit SYNAPSE, un cadre d'apprentissage fédéré qui utilise des artefacts de compendium typés et validés par schéma pour permettre un routage d'outils préservant la confidentialité et résolvant les conflits, ainsi qu'un transfert inter-architectures à travers des LLM hétérogènes et gelés sans nécessiter de données ou de poids partagés.

Auteurs originaux : Abhijit Chakraborty, Yash Shah, Vivek Gupta

Publié 2026-06-05

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Abhijit Chakraborty, Yash Shah, Vivek Gupta

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un groupe de médecins, chacun travaillant dans son propre hôpital privé avec ses propres outils médicaux spécialisés. Ils veulent collaborer pour déterminer la meilleure façon d'utiliser ces outils pour différents patients, mais ils ont des règles strictes :

Ils ne peuvent pas partager les dossiers de leurs patients (confidentialité).
Ils ne peuvent pas partager leurs manuels de médecine ou leurs données d'entraînement (pas de base de données centrale).
Ils ne peuvent pas partager les « cerveaux » réels de leurs assistants IA car ces assistants sont figés et ne peuvent pas être mis à jour (modèles figés).
Ils utilisent différentes marques d'assistants IA (modèles hétérogènes).

Par le passé, essayer de faire en sorte que ces médecins s'entendent sur une stratégie revenait à essayer de fusionner cinq langues différentes en une seule phrase. S'ils se contentaient de coller leurs notes ensemble, le résultat était un mélange désordonné et confus où les avertissements importants se perdaient, et la confidentialité était compromise.

Entrez dans SYNAPSE : Le « Compendium Typé »

Les auteurs de cet article proposent une nouvelle façon de collaborer appelée SYNAPSE. Au lieu de partager des notes désordonnées ou des poids cérébraux lourds, ils partagent un compendium structuré et typé.

Voyez ce compendium non pas comme une pile de papiers, mais comme un classeur bien organisé et étiqueté sur lequel tout le monde s'accorde.

L'idée centrale : « Typé » vs « Plat »

L'ancienne méthode (Plat) : Imaginez que tout le monde envoie un seul long paragraphe de texte disant : « Utilisez le thermomètre pour la fièvre, mais peut-être pas s'il pleut, et oh, n'utilisez pas le stéthoscope si le patient est allergique aux cacahuètes. » Tout est mélangé. Si deux personnes ne sont pas d'accord, on devine simplement qui a raison. Il est difficile de protéger les détails spécifiques (comme l'allergie aux cacahuètes) et difficile de fusionner sans perdre le sens.
La méthode SYNAPSE (Typé) : Imaginez un formulaire où chaque information possède une case spécifique :
- Case A (Nom de l'outil) : « Thermomètre »
- Case B (Quand l'utiliser) : « Fièvre > 38°C »
- Case C (Quand NE PAS l'utiliser) : « Allergie au mercure »
- Case D (Score de confiance) : « 95 % »
  Parce que chaque morceau de donnée se trouve dans sa propre case étiquetée, le système peut les traiter intelligemment.

Comment fonctionne SYNAPSE (Les métaphores créatives)

1. La « Fusion Intelligente » (Résolution de conflits)
Lorsque deux médecins ne sont pas d'accord (par exemple, le Docteur A dit « Utilisez le thermomètre », le Docteur B dit « Ne l'utilisez pas s'il y a une éruption cutanée »), le système ne se contente pas de tirer à pile ou face.

Il examine les cases. Il voit que le conflit porte spécifiquement sur la condition « Éruption cutanée ».
Il crée une nouvelle règle combinée : « Utilisez le thermomètre pour la fièvre, MAIS ne l'utilisez pas s'il y a une éruption cutanée. »
Il enregistre le désaccord afin que le système apprenne à être plus prudent à l'avenir. C'est comme un arbitre qui ne se contente pas de choisir un vainqueur, mais qui rédige un nouveau livre de règles qui tient compte des deux points de vue.

2. Le « Bouclier de Confidentialité »
L'article affirme que ce système protège la confidentialité de deux manières :

Pour les chiffres : Si un médecin partage une statistique (comme « taux de réussite de 90 % »), le système y ajoute un peu de « statique » mathématique (bruit). C'est comme flouter une photo juste assez pour qu'on ne puisse pas identifier la personne, mais qu'on puisse toujours voir la forme générale. C'est mathématiquement prouvé comme étant sûr.
Pour le texte : Si un médecin partage un scénario spécifique, le système masque les mots les plus sensibles (comme des noms spécifiques ou des conditions rares) avant de les partager. C'est comme masquer un document avec un marqueur noir avant de l'envoyer au groupe.

3. Le « Traducteur Universel » (Transfert entre modèles)
C'est le « tour de magie » de l'article. Habituellement, si vous entraînez un système sur un type d'IA (comme un modèle LLaMA), il casse lorsqu'on essaie de l'utiliser avec un autre type d'IA (comme GPT-4).

SYNAPSE fonctionne comme une télécommande universelle. Parce que le « classeur » (le compendium) n'est qu'une liste de règles et de scénarios, il ne se soucie pas de la marque d'IA qui le lit.
L'article a testé cela avec quatre familles d'IA différentes (LLaMA, Mistral, GPT-4o). Le même ensemble de règles fonctionnait presque parfaitement pour toutes, avec seulement une légère baisse de performance (environ 2 points). C'est une chose que les méthodes précédentes ne pouvaient pas faire sans partager les véritables « cerveaux » de l'IA.

Ce que l'article a réellement trouvé (Les résultats)

Les auteurs ont testé ce système de deux manières principales :

Le « Test de Mathématiques » (GSM8k) : Ils ont utilisé un ensemble de données de problèmes mathématiques où l'IA devait choisir le bon outil pour résoudre le problème.
- Résultat : SYNAPSE a performé aussi bien que si tous les médecins avaient été dans la même pièce à tout partager (Centralisé). Il était nettement meilleur que les autres méthodes qui se contentent de partager du texte ou des exemples.
- Efficacité : Il a envoyé environ 10 000 fois moins de données que les autres méthodes qui tentent de partager les poids de l'IA. C'est comme envoyer une carte postale plutôt qu'un conteneur maritime.
Le « Test en Monde Réel » (ToolBench) : Ils l'ont testé avec de vraies API (comme la météo, la recherche et l'exécution de code).
- Résultat : Il était bien meilleur pour éviter les erreurs dans les chaînes de tâches longues (ex. : « Vérifier la météo, puis réserver un vol, puis envoyer un e-mail »). Les autres méthodes échouaient souvent après 4 ou 5 étapes, mais SYNAPSE continuait de bien fonctionner même à 8 étapes.
- Pourquoi ? La case « Précautions » (les règles du « Ne pas utiliser ») était l'ingrédient secret. Elle a empêché l'IA de commettre la même erreur deux fois dans une longue chaîne.
Le « Test de Stress » : Ils ont simulé un scénario où 40 % des médecins tentaient de saboter le système (en envoyant de mauvelles règles).
- Résultat : SYNAPSE a bien résisté. Il n'a commencé à échouer que lorsque les saboteurs atteignaient 60 %. Cela montre que le système est robuste face aux acteurs malveillants.

Les Limites (Ce que l'article admet)

L'article est honnête sur ce qu'il ne fait pas :

Confidentialité du texte : Bien que les chiffres soient mathématiquement prouvés comme privés, la protection du texte est une heuristique (une supposition intelligente) de « meilleur effort », et non une garantie mathématiquement prouvée.
Dépendance au schéma : Le système repose sur le fait que tout le monde s'accorde sur la structure du « classeur ». Si quelqu'un envoie un formulaire avec les mauvaises cases, le système le rejette.
Confiance : Le système ne produit pas actuellement un « score de confiance » (ex. : « Je suis sûr à 99 % »). Pour les décisions à enjeux élevés (comme la médecine ou le droit), un humain devra toujours réviser le résultat.
Un cas particulier : Sur un ensemble de données très spécifique et difficile (LiveBench), la garantie mathématique de stabilité ne s'est pas tout à fait tenue, ce qui signifie que le système pourrait être moins stable sur ce type de données chaotiques.

Résumé

SYNAPSE est une nouvelle façon pour différentes organisations de collaborer sur des outils d'IA sans partager leurs secrets ou leurs modèles d'IA lourds. Il utilise un système de classement structuré et étiqueté au lieu de textes désordonnés. Cela leur permet de fusionner leurs connaissances en toute sécurité, de résoudre les désaccords de manière logique et d'utiliser les mêmes règles sur différentes IA, tout en envoyant très peu de données et en préservant la confidentialité.

Résumé Technique : SYNAPSE – Routage d'Outils Fédéré via des Artefacts de Compendium Typés

1. Énoncé du Problème

Le papier traite des limites des paradigmes actuels d'Apprentissage Fédéré (FL) appliqués aux agents LLM dans le cadre du routage d'outils fédéré. Les méthodes de FL existantes pour les LLM héritent largement d'unités de collaboration « plates » (ex: poids, adaptateurs, prompts bruts ou exemples de texte non structurés) issues des contextes classiques. Ces unités plates ne parviennent pas à satisfaire quatre contraintes simultanées requises pour les environnements réglementés et hétérogènes :

LLMs Gelés : Les clients ne peuvent pas partager de poids ou de gradients.
Confidentialité des Données : Les clients ne peuvent pas regrouper de données brutes ou de modèles d'utilisation d'outils (les métadonnées seules peuvent ré-identifier des individus).
Hétérogénéité des Modèles : Les clients peuvent exécuter différentes familles de LLM (ex: LLaMA, Mistral, GPT), rendant les unités spécifiques à l'architecture (comme les adaptateurs) incompatibles.
Résolution de Conflits : Les unités de texte plates ne peuvent pas agréger de manière fiable les contraintes négatives (ex: « ne pas utiliser l'outil X quand la condition Y est présente ») entre les clients sans fuiter d'informations ou perdre la structure.

Le problème central est que les unités plates manquent d'une signature de type à la frontière de la fédération, empêchant des opérations bien définies pour la confidentialité par champ, la fusion sensible au schéma et le transfert inter-architectures.

2. Méthodologie : SYNAPSE

Les auteurs proposent SYNAPSE, un framework construit sur des artefacts fédérés typés. Au lieu d'échanger des données brutes ou des paramètres de modèle, les clients échangent un objet Compendium validé par rapport à un schéma partagé.

2.1 Le Compendium Typé

Un compendium $C$ est un tuple $(M, U, P, T, A)$ défini par un schéma $S$ :

$M$ (Métadonnées) : Identifiants d'outils, descriptions et attributs numériques (ex: latence, taux de succès). Ces champs ont des limites de sensibilité déclarées.
$U$ (Scénarios d'Utilisation) : Descriptions en langage naturel de quand un outil s'applique, taguées avec des outils parents.
$P$ (Précautions) : Exemples négatifs et règles d'exclusion (quand ne pas invoquer un outil).
$T$ (Templates) : Prompts paramétrés pour le formatage des API.
$A$ (Annexe) : Triplets structurés pour la récupération et les dépendances de routage.

2.2 L'Opérateur de Fusion Typée

SYNAPSE emploie une agrégation hiérarchique (Client $\to$ Edge $\to$ Serveur) utilisant un Opérateur de Fusion Typée (Algorithme 1) :

Validation de Schéma : Les contributions malformées sont immédiatement rejetées.
Dispatch par Champ :
- Champs Numériques ( $M$ ) : Évalués (clipping) au niveau du client et agrégés avec un bruit de Laplace au niveau de l'Edge pour fournir une Confidentialité Différentielle (DP) formelle $(\epsilon, 0)$ .
- Champs Textuels ( $U, P, T$ ) : Regroupés par clustering via similitude cosinus (en utilisant les embeddings Jina). Les clusters cohérents sont résumés via TextGrad (optimisation de prompts via des gradients textuels générés par LLM). Les clusters incohérents déclenchent un journal de conflit, où les scénarios dissidents sont convertis en précautions structurées pour le tour suivant.
- Résolution de Conflit : Contrairement au vote majoritaire sur des chaînes opaques, les conflits sont résolus en journalisant les dissidents et en les convertissant en règles d'exclusion explicites (ex: « Utiliser X pour Y ; ne pas utiliser quand Z »).

2.3 Inférence et Routage

À l'inférence, une requête récupère les 5 meilleurs scénarios du compendium global via la similitude d'embedding. Un LLM de ré-classement (reranker) léger sélectionne la meilleure correspondance et identifie l'outil parent. Ce processus est indépendant du modèle, car le compendium est interprété au moment de l'inférence plutôt que d'être intégré dans les poids du modèle.

3. Principales Contributions

Abstraction d'Artefact Fédéré Typé : Une définition formelle d'un objet validé par schéma qui permet la DP par champ, la fusion contrainte par schéma et le transfert inter-modèles comme des opérations bien définies.
Opérateur de Fusion Typée : Un algorithme d'agrégation supportant la résolution de conflits par champ, le journal de conflit et la validation de schéma à travers une hiérarchie client-edge-serveur.
Garanties Formelles et Conditionnelles :
- Théorème 1 : Une garantie formelle de DP $(\epsilon, 0)$ pour les métadonnées numériques sous adjacence au niveau de l'utilisateur.
- Théorèmes 2 & 3 : Résultats conditionnels sur la distorsion de récupération (sous hypothèses Lipschitziennes) et la stabilité du routage (sous hypothèses de contraction), caractérisés empiriquement sur cinq distributions.
Évaluation Complète : Expérimentations étendues montrant que SYNAPSE égale les performances centralisées avec des coûts de communication nettement inférieurs et une robustesse supérieure à l'hétérogénéité et aux clients adverses.

4. Résultats Expérimentaux

SYNAPSE a été évalué sur GSM8k, BBH, $\tau$ -bench, ToolBench et NQ-Open.

Performance : Sur GSM8k, SYNAPSE a atteint une précision de routage de 0,92 ± 0,02, statistiquement indiscernable d'un oracle centralisé ( $p=0,31$ ) et surpassant significativement les bases comme Fed-ICL (0,79) et FedTextGrad (0,90).
Efficacité de Communication : Le système transmet environ 5,3 Ko par client et par tour. C'est environ 10 000 fois moins que la limite inférieure architecturale pour FedLoRA (r16-fp16, ~52 Mo).
Transfert Inter-Modèles : Un seul compendium construit avec LLaMA-3.1-8B a réussi à router efficacement à travers quatre familles de LLM (LLaMA-3.1, LLaMA-3.2, Mistral-7B, GPT-4o) avec seulement ~2 points de pourcentage de perte. Les méthodes de partage de poids ne peuvent atteindre cela sans correspondance architecturale.
Robustesse Longue Durée : Sur des chaînes d'outils de 8 étapes, SYNAPSE a atteint un succès de 0,71, surpassant largement Fed-ICL (0,34). Le champ typé « Précautions » a été crucial pour gérer les règles d'exclusion multi-étapes.
Résilience Adversaire : Le système tolère jusqu'à 40 % de clients adverses (injectant des scénarios corrompus ou provenant de sources croisées) avant que la performance ne s'effondre à 60 %.
Généralisation : L'abstraction s'est transférée avec succès aux artefacts de politique de récupération sur NQ-Open, comblant 73 % de l'écart entre la récupération locale uniquement et la récupération centralisée.

5. Signification et Revendications

Le papier affirme que les artefacts fédérés typés sont l'unité de collaboration nécessaire pour les agents LLM fédérés dans des contextes réglementés et hétérogènes. En passant d'unités plates et opaques à des objets validés par schéma, SYNAPSE fait de la confidentialité, de la résolution de conflits et du transfert inter-architectures des « opérations bien définies » plutôt que des approximations heuristiques.

Les auteurs soulignent que SYNAPSE :

Découple la collaboration de l'architecture : Il permet la collaboration entre des LLM hétérogènes et gelés sans partager de poids ou de données brutes.
Formalise la confidentialité : Il fournit des garanties DP rigoureuses pour les métadonnées numériques et des défenses empiriques pour le texte, traitant les risques de fuite par inversion de gradient et extraction de prompt.
Résout le problème de la « mauvaise unité » : Il démontre que le texte plat ou les vecteurs ne peuvent pas supporter l'agrégation complexe requise pour le routage d'outils, alors que les schémas typés le peuvent.

Limites Reconnues :

La DP formelle s'applique uniquement aux champs numériques ; le masquage de texte est heuristique.
Le système repose sur un agrégateur edge semi-honnête (bien qu'une agrégation sécurisée puisse être ajoutée en couche).
La prémisse de contraction pour la stabilité du routage échoue sur un sous-ensemble spécifique de LiveBench, laissant la stabilité non vérifiée pour cette distribution.
Le système ne fournit pas encore de scores de confiance calibrés pour l'escalade à enjeux élevés.

En conclusion, SYNAPSE démontre que le routage d'outils fédéré peut atteindre des performances de niveau centralisé avec un overhead de communication minimal et de fortes garanties de confidentialité, à condition que la fédération opère sur des artefacts typés plutôt que sur des données plates.