🤖 machine learning

Evidential Trust-Aware Model Personalization in Decentralized Federated Learning for Wearable IoT

Het artikel presenteert Murmura, een gedecentraliseerd federatief leerframework voor draagbare IoT dat bewijsgebaseerd diep leren benut om epistemische onzekerheid te kwantificeren als een principiële maatstaf voor compatibiliteit tussen peers, waardoor vertrouwensbewuste modelpersonalisatie mogelijk wordt die bestaande methoden in niet-IID-omgevingen aanzienlijk overtreft.

Oorspronkelijke auteurs: Murtaza Rangwala, Richard O. Sinnott, Rajkumar Buyya

Gepubliceerd 2026-05-22

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Murtaza Rangwala, Richard O. Sinnott, Rajkumar Buyya

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waar duizenden smartwatches en fitness trackers willen leren hoe ze je activiteiten kunnen herkennen—zoals wandelen, hardlopen of slapen—zonder ooit je privégegevens naar een centrale server te sturen. Dit is de wereld van Decentralized Federated Learning (DFL). In plaats van een bazige leraar die ieders huiswerk verzamelt, praten de apparaten direct met elkaar en delen ze wat ze hebben geleerd om samen slimmer te worden.

Er is echter een groot probleem: iedereen is anders.

Je horloge zit misschien aan je linkerpols, terwijl dat van je vriend aan zijn rechterpols zit. Jij bent misschien een marathonloper, terwijl hij een casual wandelaar is. Jouw data is "statistisch heterogeen", wat betekent dat de patronen die je horloge ziet, verschillen van wat anderen zien. Als ze hun kennis allemaal in één "gemiddeld" model samenvoegen, is het resultaat een middelmatig model dat voor niemand goed werkt.

Het artikel introduceert een nieuw kader genaamd MURMURA om dit op te lossen. Denk aan MURMURA als een slimme, voorzichtige diplomaat die deze apparaten helpt beslissen wie ze moeten vertrouwen en wie ze moeten negeren, zodat ze gepersonaliseerde modellen kunnen bouwen die echt voor hen werken.

Hier is hoe het werkt, opgesplitst in eenvoudige concepten:

1. Het Probleem: Het "Slechte Buurman"-Dilemma

In een normaal decentraal netwerk, als Apparaat A een modelupdate ontvangt van Apparaat B, voegt het ze meestal gewoon samen. Maar wat als Apparaat B leert over "zwemmen" terwijl Apparaat A leert over "fietsen"? Als Apparaat A blindelings het advies van Apparaat B accepteert, kan het in de war raken en denken dat zwemmen fietsen is.

Bestaande methoden proberen dit op te lossen door te meten hoe "gelijk" de modellen eruitzien (zoals het vergelijken van de lengte van hun armen). Maar dit is gebrekkig. Twee apparaten kunnen zeer verschillende data hebben (de ene zwemt, de andere fietst), maar toch gelijkende modellen hebben omdat ze allebei goed zijn in wat ze doen. Omgekeerd kunnen twee apparaten vergelijkbare data hebben, maar is de ene gewoon slecht aan het leren. Eenvoudige vergelijkingscontroles kunnen het onderscheid niet maken tussen "anders maar goed" en "anders en slecht".

2. De Oplossing: De "Onzekerheidsdetective"

MURMURA gebruikt een speciaal type AI genaamd Evidential Deep Learning. Denk hierbij aan het geven van een "vertrouwensmeter" aan elk apparaat die niet alleen zegt "Ik denk dat dit wandelen is", maar ook zegt: "Ik ben 90% zeker, en ik weet waarom ik zeker ben."

Deze vertrouwensmeter breekt onzekerheid op in twee soorten:

Het "Ik heb dit nog nooit gezien"-gevoel (Epistemische Onzekerheid): Als een apparaat naar je data kijkt en zegt: "Ik heb geen idee wat dit is, omdat ik getraind ben op totaal andere dingen," is dat een rode vlag. Het betekent dat het andere apparaat incompatibel is.
Het "Dit is een lastig geval"-gevoel (Aleatorische Onzekerheid): Als een apparaat zegt: "Dit lijkt op wandelen, maar het is een rare, wankelende wandeling, dus ik ben niet 100% zeker," is dat prima. Het betekent dat de data gewoon moeilijk is, niet incompatibel.

3. Hoe MURMURA Werkt: De "Vertrouwensfilter"

Hier is het stap-voor-stap proces dat MURMURA gebruikt:

De Proefrit: Wanneer Apparaat A een model ontvangt van Apparaat B, accepteert het dit niet zomaar. Het voert het model van Apparaat B uit op zijn eigen lokale "proefvragen" (validatiegegevens).
De Vertrouwenscontrole: Apparaat A kijkt naar de "Ik heb dit nog nooit gezien"-score (Epistemische Onzekerheid).
- Hoge Score: "Whoa, dit model is totaal verdwaald op mijn data. Deze persoon komt uit een andere wereld." -> Afwijzen.
- Lage Score: "Dit model begrijpt mijn data, zelfs als het niet perfect is." -> Vertrouwen.
De Slimme Mix: Apparaat A mengt zijn eigen model alleen met de modellen van de "vertrouwde" buren. Het negeert diegenen die niet passen.
Stricter Worden Na Verloop van Tijd: Aan het begin van de training is iedereen in de war, dus MURMURA is mild en laat veel buren binnen. Naarmate de training vordert en modellen slimmer worden, wordt de "vertrouwensfilter" strenger en laat alleen de meest compatibele peers binnen.

4. De Resultaten: Waarom Het Belangrijk Is

De auteurs hebben MURMURA getest op drie real-world draagbare datasets (met activiteiten zoals wandelen, hardlopen en hartslagmonitoring). Dit is wat ze vonden:

Het Omgaat Beter met Chaos: Wanneer de data erg rommelig en verschillend was (non-IID), crashten standaardmethoden en verloren ze ongeveer 19% van hun nauwkeurigheid. MURMURA verloor slechts 0,9%. Het bleef kalm terwijl anderen in paniek raakten.
Het Lekt Sneller: Omdat het de "ruis" van incompatibele buren filtert, convergeert het (bereikt het zijn piekprestatie) 7,4 keer sneller dan standaardmethoden. Dit betekent minder batterijverbruik en minder tijd wachten tot het model werkt.
Het Is Stabiel: Het hoefde niet perfect afgesteld te worden om te werken. Of de instellingen nu iets afweken of perfect waren, het presteerde consequent goed.

De Conclusie

MURMURA is als een slim sociaal netwerk voor je apparaten. In plaats van iedereen te dwingen akkoord te gaan met één "gemiddeld" oordeel, laat het elk apparaat zijn eigen "stam" van compatibele buren vinden. Door een speciale "onzekerheidsmeter" te gebruiken om te detecteren wie echt hun lokale data begrijpt, zorgt het ervoor dat elk apparaat een gepersonaliseerd model krijgt dat perfect voor hen werkt, zonder in de war te raken door de rest van de wereld.

Technische Samenvatting: MURMURA – Evidentiële Vertrouwensgevoelige Modelpersonalisatie in Gedecentraliseerd Federatief Leren

1. Probleemstelling

Gedecentraliseerd Federatief Leren (DFL) maakt collaboratieve modeltraining mogelijk over randapparaten zonder centrale coördinator, wat weerstand biedt tegen enkele uitvalpunten. Een fundamentele uitdaging ontstaat echter door statistische heterogeniteit (niet-IID-gegevens), waarbij lokale gegevensdistributies aanzienlijk variëren als gevolg van gebruikersdiversiteit, sensorplaatsing en omgevingscontexten.

Deze heterogeniteit creëert een spanning: knopen vereisen modellen die zijn gepersonaliseerd voor hun lokale distributies, maar naïeve samenwerking met incompatibele peers kan de prestaties verslechteren. Bestaande benaderingen kampen met twee primaire beperkingen:

Afdwingen van een globaal model: Standaardmethodes dwingen vaak een enkel globaal model af dat op geen enkele specifieke knoop goed past.
Heuristische peerselectie: Huidige gepersonaliseerde DFL-methode vertrouwen op similariteitsmetrieken (bijv. parameterafstand, gradiëntnormen) die niet kunnen onderscheiden tussen schadelijke dissimilariteit (incompatibele gegevensdistributies) en voordelige diversiteit (hoogwaardige maar verschillende gegevens). Bovendien geven standaard neurale netwerken alleen voorspellingen weer zonder aan te geven waarom een voorspelling is gedaan, waardoor het onmogelijk is om te onderscheiden tussen een model dat nooit vergelijkbare gegevens heeft gezien (incompatibele peer) en een model dat de gegevens inherent moeilijk vindt (potentieel waardevolle peer).

2. Methodologie: Het MURMURA-kader

De auteurs stellen MURMURA voor, een kader dat Evidentieel Diep Leren (EDL) benut om vertrouwensgevoelige modelpersonalisatie mogelijk te maken. De kerninzicht is dat epistemische onzekerheid (onzekerheid door gebrek aan kennis) direct de compatibiliteit van peers aangeeft.

A. Evidentiële Onzekerheidskwantificering

MURMURA vervangt standaard softmax-uitgaven door Dirichlet-gebaseerde evidentiële modellen. Deze modellen geven evidence-waarden af die een Dirichlet-verdeling parametriseren, waardoor onzekerheid kan worden ontbonden in twee distincte typen:

Epistemische Onzekerheid ( $u$ ): Meet het gebrek aan kennis over de gegevensdistributie. Hoge epistemische onzekerheid geeft aan dat het model geen vergelijkbare gegevens heeft gezien tijdens training, wat een distributie-mismatch met de evaluerende knoop aangeeft.
Aleatorische Onzekerheid: Meet inherente gegevensambiguïteit (bijv. ruwe of overgangs-sensoraflezingen). Hoge aleatorische onzekerheid impliceert niet noodzakelijk incompatibiliteit.

B. Vertrouwensgevoelig Aggregatiemechanisme

Het kader werkt via een gedecentraliseerd trainingsprotocol waarbij knopen autonoom beslissen met welke peers ze samenwerken op basis van cross-evaluatie:

Cross-Evaluatie: Knoop $i$ evalueert het model van een peer $j$ op zijn eigen lokale validatiegegevens.
Compatibiliteitsbeoordeling: Een vertrouwensscore wordt berekend op basis van voorspellingsnauwkeurigheid en, cruciaal, de gemiddelde epistemische onzekerheid.
- Als het model van een peer hoge epistemische onzekerheid vertoont op lokale gegevens, wordt deze als incompatibel beschouwd en uitgesloten.
- Als de onzekerheid laag is, wordt de peer als compatibel beschouwd, ongeacht of de voorspelling perfect was (onderscheidend tussen "onbekende gegevens" en "moeilijke gegevens").
Adaptieve Drempels: Vertrouwensdrempels zijn niet statisch. Ze beginnen mild in vroege trainingsrondes (wanneer alle modellen onzeker zijn) en worden adaptief strenger naarmate modellen convergeren, waardoor voortijdige afwijzing van peers wordt voorkomen.
Gepersonaliseerde Aggregatie: Knoop aggregeren updates uitsluitend van vertrouwde peers, gewogen naar hun vertrouwensscores, terwijl een deel van hun lokale model wordt behouden (gecontroleerd door een zelfgewicht-parameter). Als geen enkele peer de drempel haalt, behoudt de knoop zijn lokale model, wat zorgt voor een vlotte degradatie naar geïsoleerd leren.

C. Systeemarchitectuur

MURMURA is geïmplementeerd als een modulair Python/PyTorch-kader dat diverse netwerktopologieën ondersteunt (ring, volledig verbonden, enz.). Het scheidt netwerkcoördinatie van knoop-niveau beslissingen, waardoor systematische evaluatie van personalisatiestrategieën mogelijk is, onafhankelijk van topologie-effecten. Het ondersteunt gecontroleerde heterogeniteitssimulatie via Dirichlet-partitie en natuurlijke partitie (bijv. per proefpersoon-ID).

3. Belangrijkste Bijdragen

Eerste Integratie van EDL in Gedecentraliseerde Personalisatie: MURMURA is het eerste kader dat evidentiële onzekerheidskwantificatie combineert met vertrouwensgevoelige personalisatie in volledig gedecentraliseerde omgevingen, waardoor knopen gepersonaliseerde modellen kunnen behouden via selectieve samenwerking in niet-IID-omgevingen.
Adaptief Vertrouwensgevoelig Algorithmus: De auteurs hebben een aggregatie-algoritme ontwikkeld dat peercompatibiliteit evalueert via cross-evaluatie op lokale gegevens en adaptieve vertrouwensdrempels toepast die strenger worden naarmate de training vordert.
Open en Uitbreidbaar Kader: MURMURA wordt aangeboden als een open-source kader dat meerdere topologieën, baseline-aggregatiemethoden en systematische evaluatie onder variërende heterogeniteitsniveaus ondersteunt.
Berekenings-efficiëntie: De benadering berekent onzekerheid met een enkele forward pass per evaluatie, waardoor de zware rekenkundige overhead van ensemble-methoden of Monte Carlo-dropout wordt vermeden, terwijl rijkere informatie wordt geboden dan punt-schattingen.

4. Experimentele Resultaten

Het kader is geëvalueerd op drie wearable IoT-datasets: UCI HAR, PAMAP2 en PPG-DaLiA.

Robuustheid tegen Heterogeniteit: Onder hoge heterogeniteit (Dirichlet $\alpha = 0.1$ ) verminderde MURMURA de prestatiedegradatie aanzienlijk in vergelijking met baselines. De nauwkeurigheidsdaling van IID naar niet-IID-omstandigheden was slechts 0,9% voor MURMURA, vergeleken met 19,3% voor standaard FedAvg.
Convergentiesnelheid: MURMURA bereikte 7,4× snellere convergentie (het bereiken van pieknauwkeurigheid in 4,0 rondes) in vergelijking met FedAvg (29,5 rondes). Dit wordt toegeschreven aan de uitsluiting van ruwe updates van incompatibele peers.
Stabiliteit: Het kader behield een stabiele nauwkeurigheid over verschillende hyperparameterkeuzes (bijv. zelfgewicht, vertrouwensdrempels), met standaardafwijkingen onder de 1% voor de meeste datasets, waardoor de behoefte aan uitgebreide per-apparaat tuning wordt verminderd.
Variantiereductie: MURMURA bereikte een hoge gemiddelde nauwkeurigheid met lagere variantie over knopen in vergelijking met FedAvg, wat aangeeft dat personalisatie alle knopen ten goede komt in plaats van sommige ten koste van anderen te verbeteren.

5. Betekenis en Beweringen

Het artikel beweert dat MURMURA evidentiële onzekerheid vestigt als een principiële basis voor compatibiliteitsbewuste personalisatie in gedecentraliseerde heterogene omgevingen.

Onderscheid tussen Incompatibiliteit en Moeilijkheid: Door epistemische van aleatorische onzekerheid te scheiden, lost het kader het "peercompatibiliteitsprobleem" op, waardoor knopen kunnen onderscheiden tussen peers met echt incompatibele gegevensdistributies en die met uitdagende maar compatibele gegevens.
Autonome Besluitvorming: Het maakt volledig gedecentraliseerde knopen in staat om principiële compatibiliteitsbeslissingen te nemen zonder centrale toezicht of afhankelijkheid van heuristische similariteitsmetrieken die modelkwaliteit verwarren met distributieverschillen.
Praktische Haalbaarheid: De resultaten suggereren dat evidentiële vertrouwensgevoelige aggregatie een praktische oplossing is voor resource-beperkte wearable IoT-apparaten, met snellere convergentie (wat energie- en bandbreedtegebruik vermindert) en robuustheid tegen extreme gegevensheterogeniteit, zonder complexe hyperparameter-tuning te vereisen.

De auteurs merken op dat hoewel MURMURA goed presteert, in scenario's met extreme fysiologische variabiliteit (bijv. PPG-DaLiA) conservatieve filtering kan leiden tot bijna-geïsoleerde training wanneer er maar weinig compatibele peers bestaan. Zij suggereren dat toekomstig werk gegradueerde vertrouwensmechanismen kan verkennen om waarde te halen uit matig compatibele peers.