🤖 AI

Synapse: Federated Tool Routing via Typed Compendium Artifacts

Dit artikel introduceert SYNAPSE, een federated learning-framework dat gebruikmaakt van schema-gevalideerde, getypeerde compendium-artefacten om privacy-bewuste, conflict-opgeloste tool-routing en cross-architectuur transfer mogelijk te maken over heterogene, bevroren LLM's zonder dat er gedeelde data of gewichten vereist zijn.

Oorspronkelijke auteurs: Abhijit Chakraborty, Yash Shah, Vivek Gupta

Gepubliceerd 2026-06-05

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Abhijit Chakraborty, Yash Shah, Vivek Gupta

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een groep artsen voor, die elk in hun eigen privéziekenhuis werken met hun eigen gespecialiseerde medische instrumenten. Ze willen samenwerken om uit te vinden wat de beste manier is om deze instrumenten voor verschillende patiënten te gebruiken, maar ze hebben strikte regels:

Ze mogen geen patiëntendossiers delen (privacy).
Ze mogen hun medische tekstboeken of trainingsdata niet delen (geen centrale database).
Ze mogen de eigenlijke "hersenen" van hun AI-assistenten niet delen, omdat die assistenten bevroren zijn en niet kunnen worden bijgewerkt (bevroren modellen).
Ze gebruiken verschillende merken AI-assistenten (heterogene modellen).

In het verleden was het proberen om deze artsen een strategie te laten afspreken alsof men vijf verschillende talen probeerde samen te voegen tot één zin. Als ze simpelweg hun aantekeningen bij elkaar plakten, was het resultaat een rommelige, verwarrende brij waar belangrijke waarschuwingen verloren gingen en de privacy in gevaar kwam.

Ontmoet SYNAPSE: De "Typed Compendium"

De auteurs van dit artikel stellen een nieuwe manier van samenwerken voor genaamd SYNAPSE. In plaats van rommelige aantekeningen of zware "brain-weights" te delen, delen zij een gestructureerd, getypeerd compendium.

Zie dit compendium niet als een stapel papier, maar als een goed georganiseerde, gelabelde archiefkast waar iedereen het over eens is.

Het Kernidee: "Typed" vs. "Flat"

De Oude Manier (Flat): Stel je voor dat iedereen een enkele, lange paragraaf tekst stuurt waarin staat: "Gebruik de thermometer voor koorts, maar misschien niet als het regent, en oh, gebruik de stethoscoop niet als de patiënt allergisch is voor pinda's." Alles zit door elkaar. Als twee mensen het oneens zijn, gok je maar wie er gelijk heeft. Het is moeilijk om specifieke details (zoals de pinda-allergie) te beschermen en het is moeilijk om te mergen zonder betekenis te verliezen.
De SYNAPSE-manier (Typed): Stel je een formulier voor waarbij elk stukje informatie in een specifiek vakje staat:
- Vak A (Naam Instrument): "Thermometer"
- Vak B (Wanneer te gebruiken): "Koorts > 38°C"
- Vak C (Wanneer NIET te gebruiken): "Allergie voor kwik"
- D (Betrouwbaarheidsscore): "95%"
  Omdat elk stukje data in zijn eigen gelabelde vakje staat, kan het systeem deze intelligent verwerken.

Hoe SYNAPSE werkt (De Creatieve Metaforen)

1. De "Slimme Merging" (Conflictresolutie)
Wanneer twee artsen het oneens zijn (bijv. Dokter A zegt "Gebruik de thermometer", Dokter B zegt "Gebruik hem niet bij een huiduitslag"), dan gooit het systeem niet gewoon een muntje op.

Het kijkt naar de vakjes. Het ziet dat het conflict specif으로 gaat over de "Huiduitslag"-conditie.
Het creëert een nieuwe, gecombineerde regel: "Gebruik de thermometer voor koorts, MAAR niet als er sprake is van een huiduitslag."
Het logt de onenigheid zodat het systeem in de toekomst leert om voorzichtiger te zijn. Dit is als een scheidsrechter die niet alleen een winnaar aanwijst, maar een nieuw regelboek schrijft dat rekening houdt met beide kanten.

2. Het "Privacyschild"
Het artikel beweert dat dit systeem de privacy op twee manieren beschermt:

Voor Getallen: Als een arts een statistiek deelt (zoals "90% succespercentage"), voegt het systeem een klein beetje wiskundige "statische ruis" (noise) toe aan deze waarde. Het is alsof je een foto net genoeg vervaagt zodat je de persoon niet kunt identificeren, maar je de algemene vorm nog wel kunt zien. Dit is wiskundig bewezen veilig.
Voor Tekst: Als een arts een specifiek scenario deelt, maskeert het systeem de meest gevoelige woorden (zoals specifieke namen of zeldzame aandoeningen) voordat ze gedeeld worden. Het is als het zwart maken van een document met een zwarte marker voordat het naar de groep wordt gestuurd.

3. De "Universele Vertaler" (Cross-Model Transfer)
Dit is de "magische truc" van het artikel. Normaal gesproken, als je een systeem traint op één type AI (zoals een LLaMA-model), gaat het kapot wanneer je het probeert te gebruiken met een ander type AI (zoals GPT-4).

SYNAPSE werkt als een universele afstandsbediening. Omdat het "compendium" (de archiefkast) slechts een lijst met regels en scenario's is, maakt het niet uit welke merk AI het leest.
Het artikel testte dit met vier verschillende AI-families (LLaMA, Mistral, GPT-4o). Dezelfde set regels werkte bijna perfect voor alle modellen, met slechts een minimale daling in prestaties (ongeveer 2 punten). Dit is iets wat eerdere methoden niet konden zonder de eigenlijke AI-"hersenen" te delen.

Wat het Papier Eigenlijk Vond (De Resultaten)

De auteurs hebben dit systeem op twee manieren getest:

De "Rekentoets" (GSM8k): Ze gebruikten een dataset van wiskundige problemen waarbij de AI het juiste instrument moest kiezen om een probleem op te lossen.
- Resultaat: SYNAPSE presteerde net zo goed als wanneer alle artsen in dezelfde kamer waren geweest en alles hadden gedeeld (Centralized). Het was aanzienlijk beter dan andere methoden die alleen tekst of voorbeelden deelden.
- Efficiëntie: Het verstuurde ongeveer 10.000 keer minder data dan andere methoden die proberen AI-gewichten te delen. Het is alsof je een ansichtkaart stuurt in plaats van een zeecontainer.
De "Real-World Test" (ToolBench): Ze testten het met echte API's (zoals weer, zoeken en code-executie).
- Resultaat: Het was veel beter in het vermijden van fouten in lange ketens van taken (bijv. "Check het weer, boek dan een vlucht, stuur daarna een e-mail"). Andere methoden faalden vaak na 4 of 5 stappen, maar SYNAPSE bleef goed functioneren, zelfs bij 8 stappen.
- Waarom? Het vakje "Voorzorgsmaatregelen" (de "Niet Gebruiken"-regels) was het geheime ingrediënt. Het voorkwam dat de AI dezelfde fout twee keer maakte in een lange keten.
De "Stress Test": Ze simuleerden een scenario waarin 40% van de artsen probeerde het systeem te saboteren (door slechte regels te sturen).
- Resultaat: SYNAPSE hield het goed stand. Het begon pas te falen wanneer de saboteurs de 60% bereikten. Dit laat zien dat het systeem robuust is tegen kwaadwillende actoren.

De Beperkingen (Wat het Papier Toegeeft)

Het artikel is eerlijk over wat het niet doet:

Tekstprivacy: Hoewel de getallen wiskundig bewezen privé zijn, is de tekstbescherming een "best effort" heuristiek (een slimme gok), geen wiskundig bewezen garantie.
Schema Afhankelijkheid: Het systeem vertrouwt erop dat iedereen het eens is over de structuur van de "archiefkast". Als iemand een formulier met de verkeerde vakjes stuurt, wijst het systeem dit af.
Zekerheid: Het systeem geeft momenteel geen "betrouwbaarheidsscore" uit (bijv. "Ik weet voor 99% zeker dat..."). Voor beslissingen met een hoge inzet (zoals medische of juridische zaken) zou een mens de output nog steeds moeten beoordelen.
Eén Afwijkende Casus: In één specifiek, zeer moeilijk dataset (LiveBench), hield de wiskundige garantie voor stabiliteit niet helemaal stand, wat betekent dat het systeem op die specifieke, chaotische data mogelijk minder stabiel is.

Samenvatting

SYNAPSE is een nieuwe manier voor verschillende organisaties om samen te werken aan AI-tools zonder hun geheimen of hun zware AI-modellen te delen. Het gebruikt een gestructureerd, gelabeld bestandssysteem in plaats van rommelige tekst. Dit stelt hen in staat om hun kennis veilig te combineren, onenigheden logisch op te lossen en dezelfde regels over verschillende soorten AI te gebruiken, terwijl ze zeer weinig data versturen en de privacy intact houden.

Technische Samenvatting: SYNAPSE – Federatieve Tool-routing via Getypeerde Compendium-artefacten

1. Probleemstelling

Het artikel behandelt de beperkingen van huidige Federated Learning (FL) paradigma's wanneer deze worden toegepast op Large Language Model (LLM) agenten in federatieve tool-routing. Bestaande FL-methoden voor LLM's erven grotendeels "platte" eenheden van samenwerking (bijv. gewichten, adapters, ruwe prompts of ongestructureerde tekstvoorbeelden) uit klassieke settings. Deze platte eenheden voldoen niet aan vier simultane restricties die vereist zijn voor gereguleerde, heterogene omgevingen:

Bevroren LLM's: Cliënten kunnen geen gewichten of gradiënten delen.
Data-privacy: Cliënten kunnen geen ruwe data of tool-gebruikspatronen (metadata alleen kan individuen identificeren) verzamelen.
Model-heterogeniteit: Cliënten kunnen verschillende LLM-families draaien (bijv. LLaMA, Mistral, GPT), waardoor architectuurspecifieke eenheden (zoals adapters) incompatibel zijn.
Conflictresolutie: Platte tekstunits kunnen negatieve restricties (bijv. "gebruik tool X niet wanneer conditie Y optreedt") niet betrouwbaar aggregeren over cliënten heen zonder informatie te lekken of structuur te verliezen.

Het kernproblek is dat platte tekstunits geen type-signatuur bezitten op de federatieve grens, wat welgedefinieerde operaties voor per-veld privacy, schema-bewuste fusie en cross-architecturale transfer verhindert.

2. Methodologie: SYNAPSE

De auteurs stellen SYNAPSE voor, een framework gebouwd op getypeerde federatieve artefacten. In plaats van ruwe data of modelparameters uit te wisselen, wisselen cliënten een gestructureerd Compendium-object uit dat gevalideerd wordt tegen een gedeeld schema.

2.1 Het Getypeerde Compendium

Een compendium $C$ is een tupel $(M, U, P, T, A)$ gedefinieerd door een schema $S$ :

$M$ (Metadata): Tool-identificatoren, beschrijvingen en numerieke attributen (bijv. latentie, succespercentages). Deze velden hebben verklaarde gevoeligheidsgrenzen.
$U$ (Usage Scenarios): Natuurlijke taalbeschrijvingen van wanneer een tool van toepassing is, getagd met bovenliggende tools.
$P$ (Precautions): Negatieve voorbeelden en uitsluitingsregels (wanneer een tool niet aangeroepen moet worden).
$T$ (Templates): Geparametriseerde prompts voor API-formattering.
$A$ (Annex): Gestructureerde triples voor retrieval en routing-afhankelijkheden.

2.2 De Getypeerde Merge-operator

SYNAPSE maakt gebruik van een hiërarchische aggregatie (Cliënt $\to$ Edge $\to$ Server) met behulp van een Getypeerde Merge-operator (Algoritme 1):

Schema-validatie: Malafide bijdragen worden onmiddellijk afgewezen.
Veld-gewijze dispatch:
- Numerieke Velden ( $M$ ): Afgeknipt (clipped) bij de cliënt en geaggregeerd met Laplace-ruis bij de edge om formele $(\epsilon, 0)$ -Differential Privacy (DP) te bieden.
- Tekstvelden ( $U, P, T$ ): Geclusterd via cosine similarity (met behulp van Jina embeddings). Consistente clusters worden samengevat met TextGrad (het optimaliseren van prompts via door LLM gegenereerde tekstuele gradiënten). Inconsistente clusters triggeren een conflictlog, waarbij dissidente scenario's worden omgezet in gestructureerde voorzorgsmaatregelen voor de volgende ronde.
- Conflictresolutie: In tegenstelling tot meerderheidsstemmen op opaak tekstmateriaal, worden conflicten opgelost door dissenters te loggen en ze om te zetten in expliciete uitsluitingsregels (bijv. "Gebruik X voor Y; gebruik niet wanneer Z").

2.3 Inferentie en Routing

Tijdens inferentie haalt een query de top-5 scenario's op uit het globale compendium via embedding-gelijkenis. Een lichtgewicht LLM reranker selecteert de beste match en identificeert de bovenliggende tool. Dit proces is model-agnostisch, aangezien het compendium tijdens de inferentie wordt geïnterpreteerd in plaats van in de modelgewichten te worden ingebakken.

3. Belangrijkste Bijdragen

Getypeerde Federatieve Artefact Abstractie: Een formele definitie van een schema-gevalideerd object dat per-veld DP, schema-geconstreineerde fusie en cross-model transfer mogelijk maakt als welgedefinieerde operaties.
Getypeerde Merge-operator: Een aggregatie-algoritme dat veld-gewijze conflictresolutie, conflictlogging en schema-validatie ondersteunt over een cliënt-edge-server hiërarchie.
Formele en Conditionele Garanties:
- Stelling 1: Een formele $(\epsilon, 0)$ -DP garantie voor numerieke metadata onder user-level adjacency.
- Stelling 2 & 3: Conditionele resultaten op retrieval-distortie (onder Lipschitz-aannames) en routing-stabiliteit (onder contractie-aannames), empirisch gekarakteriseerd op vijf distributies.
Uitgebreide Evaluatie: Uitgebreide experimenten tonen aan dat SYNAPSE de gecentraliseerde prestaties evenaart met aanzienlijk lagere communicatiekosten en superieure robuustheid tegen heterogeniteit en adversariële cliënten.

4. Experimentele Resultaten

SYNAPSE werd geëvalueerd op GSM8k, BBH, $\tau$ -bench, ToolBench en NQ-Open.

Prestaties: Op GSM8k bereikte SYNAPSE een routing-nauwkeurigheid van 0.92 ± 0.02, wat statistisch ononderscheidbaar is van een gecentraliseerde oracle ( $p=0.31$ ) en significant beter presteert dan baselines zoals Fed-ICL (0.79) en FedTextGrad (0.90).
Communicatie-efficiëntie: Het systeem verzendt ~5.3 KB per cliënt per ronde. Dit is ongeveer 10.000× lager dan de architecturale ondergrens voor FedLoRA (r16-fp16, ~52 MB).
Cross-Model Transfer: Een enkel compendium opgebouwd met LLaMA-3.1-8B slaagde erin om succesvol te routeren over vier LLM-families (LLaMA-3.1, LLaMA-3.2, Mistral-7B, GPT-4o) met slechts ~2 procentpunt verlies. Gewicht-deling methoden kunnen dit niet bereiken zonder architecturale overeenkomst.
Long-Horizon Robuustheid: Op 8-staps tool-ketens bereikte SYNAPSE een succesratio van 0.71, wat de Fed-ICL (0.34) ver overtreft. Het getypeerde "Precautions"-veld was cruciaal voor het afhandelen van multi-step uitsluitingsregels.
Adversariële Resistentie: Het systeem verdraagt tot 40% adversariële cliënten (die cross-source of gecorrumpeerde scenario's injecteren) voordat de prestaties instorten bij 60%.
Generalisatie: De abstractie werd succesvol overgedragen naar retrieval-policy artefacten op NQ-Open, waarbij 73% van de kloof tussen local-only en gecentraliseerde retrieval werd gedicht.

5. Betekenis en Claims

Het artikel claimt dat getypeerde federatieve artefacten de noodzakelijke eenheid van samenwerking zijn voor federatieve LLM-agenten in gereguleerde, heterogene omgevingen. Door over te stappen van platte, opaak data naar schema-gevalideerde objecten, maakt SYNAPSE privacy, conflictresolutie en cross-architecturale transfer tot "welgedefinieerde operaties" in plaats van heuristische benaderingen.

De auteurs benadrukken dat SYNAPSE:

Collaboratie ontkoppelt van architectuur: Het maakt samenwerking tussen bevroren, heterogene LLM's mogelijk zonder gewichten of ruwe data te delen.
Privacy formaliseert: Het biedt rigoureuze DP-garanties voor numerieke metadata en empirische verdedigingen voor tekst, waarmee de risico's op lekken door gradient inversion en prompt-extractie worden geadresseerd.
Het "verkeerde eenheid"-probleem oplost: Het demonstreert dat platte tekst of vectoren de complexe aggregatie die nodig is voor tool-routing niet kunnen ondersteunen, terwijl getypeerde schema's dat wel kunnen.

Erkende Beperkingen:

Formele DP geldt alleen voor numerieke velden; tekstmaskering is heuristisch.
Het systeem vertrouwt op een semi-honest edge aggregator (hoewel secure aggregation kan worden toegevoegd).
De contractie-premisse voor routing-stabiliteit faalt op een specifieke LiveBench subset, waardoor stabiliteit daar niet geverifieerd is.
Het systeem biedt nog geen gekalibreerde betrouwbaarheidsscores voor hoog-risico escalaties.

Concluderend demonstreert SYNAPSE dat federatieve tool-routing prestaties op niveau van gecentraliseerde systemen kan bereiken met minimale communicatie-overhead en sterke privacygaranties, mits de federatie opereert op getypeerde artefacten in plaats van platte data.