Reputation-Driven Federated Learning: Enhancing Trust in Healthcare Data Sharing with Blockchain

In de moderne wereld genereren ziekenhuizen en onderzoekscentra enorme hoeveelheden gevoelige informatie over patiënten, van hartritmes tot genetische codes. Het delen van deze gegevens is essentieel voor het trainen van kunstmatige intelligentie om ziekten eerder te ontdekken en ze beter te behandelen, maar het doen daarvan brengt een groot risico met zich mee: als de ruwe gegevens de beveiligde server van een ziekenhuis verlaten, kan de privacy van een patiënt worden geschonden. Jarenlang hebben wetenschappers gezocht naar een middenweg. Een veelbelovende aanpak is federated learning, een methode waarbij een centrale computer veel verschillende ziekenhuizen vraagt om een gedeeld kunstmatig intelligentiemodel te trainen met behulp van hun eigen lokale gegevens. De ziekenhuizen sturen hun privé patiëntendossiers nooit naar de centrale computer; ze sturen alleen de wiskundige updates terug die het model heeft geleerd. Dit systeem rust echter op vertrouwen. Als een ziekenhuis onbetrouwbaar is of de computer ervan gecompromitteerd is, kan het een gecorrumpeerde update terugsturen die het hele model verpest, of erger nog, informatie over andere patiënten stelen. Om dit op te lossen, wenden onderzoekers zich tot blockchain, een digitale grootboektechnologie die bekend staat om haar vermogen om transacties op een manier vast te leggen die permanent, transparant en onmogelijk te wijzigen is zonder detectie. Door deze twee technologieën te combineren, streven wetenschappers ernaar een systeem te creëren waarin data privé blijft, maar het gedrag van elke deelnemer wordt gemonitord en geverifieerd.

Een team onderzoekers van de Universiteit van Camerino en de Universiteit van Milaan heeft een nieuwe architectuur voorgesteld die deze concepten samenweeft in een veilig kader voor de gezondheidszorg. Hun werk richt zich op een specifiek probleem: hoe ervoor te zorgen dat alleen betrouwbare ziekenhuizen deelnemen aan het trainen van deze gedeelde modellen, en hoe deelnemers die kwaadwillend handelen direct te identificeren en te verwijderen. Ze bouwden een systeem waarbij een permissioned blockchain fungeert als de centrale autoriteit, maar in plaats van alleen records op te slaan, beheert het actief wie is toegestaan deel te nemen aan het trainingsproces. Dit systeem gebruikt een methode genaamd attribute-based access control, wat functioneert als een dynamische beveiligingsbeambte die de specifieke credentials van een bezoeker controleert — zoals hun identiteit, het type gegevens dat ze verwerken en hun reputatie uit het verleden — voordat ze de deur door mogen. In deze opstelling slaat de blockchain niet de privé medische dossiers zelf op; die blijven veilig opgeslagen in de lokale database van elk ziekenhuis. In plaats daarvan slaat de blockchain de regels voor toegang op, de identiteiten van de deelnemers en de cryptografische vingerafdrukken van de modellen die zij delen, waardoor het hele proces transparant en ongevoelig voor manipulatie is.

De kerninnovatie van dit onderzoek ligt in de manier waarop het "vertrouwen" berekent en gebruikt. In een traditioneel systeem kan een ziekenhuis vertrouwd worden simpelweg omdat het een bekende instelling is. In dit nieuwe kader is vertrouwen een levend getal dat verandert op basis van prestaties. De onderzoekers ontwierpen een systeem dat constant observeert hoe elk ziekenhuis zich gedraagt tijdens het trainingsproces. Het kijkt naar drie hoofdzaken: hoe nauwkeurig de modelupdates zijn, hoe snel het ziekenhuis reageert, en de historische reputatie. Als een ziekenhuis een modelupdate terugstuurt die verdacht afwijkt van de anderen, of als het ongebruikelijk lang duurt voordat het reageert, markeert het systeem dit gedrag. De onderzoekers simuleerden een netwerk van vijftig ziekenhuizen, waarvan een derde optrad als kwaadwillende actoren die probeerden de training te saboteren. In hun simulatie identificeerde het systeem deze slechte actoren succesvol. De vertrouwensscore van de eerlijke ziekenhuizen steeg naarmate zij goed presteerden, terwijl de vertrouwensscore van de kwaadwillende actoren snel daalde. Binnen slechts enkele rondes van training was het systeem in staat de slechte actoren te isoleren, waardoor ze effectief werden afgesneden van het netwerk, zodat ze het gedeelde model niet langer konden beïnvloeden.

Om dit werkend te maken, ontwikkelden de onderzoekers een digitale infrastructuur uit twee delen. Eerst creëerden ze een smart contract systeem, wat in essentie een zelfuitvoerend programma op de blockchain is, om identiteits- en beleidsbeslissingen af te handelen. Dit programma controleert elke aanvraag om te zien of deze overeenkomt met de beveiligingsregels. Ten tweede bouwden ze een apart monitoringsysteem dat de vertrouwensscores op de achtergrond berekent. Wanneer een ziekenhuis wil deelnemen aan een trainingsopdracht, controleert het systeem de huidige vertrouwensscore tegen de beveiligingsregels. Als de score hoog genoeg is, mag het ziekenhuis deelnemen. Als de score te laag is, bijvoorbeeld omdat het in een vorige taak vreemd gedrag vertoonde, weigert het systeem toegang. Dit creëert een zelfreinigend netwerk waarin slecht gedrag automatisch wordt gestraft door uitsluiting, en goed gedrag wordt beloond met voortgezette deelname. De onderzoekers testten deze opstelling met behulp van een gesimuleerde omgeving met vijftig nodes, waarbij tien iteraties van trainingsopdrachten werden uitgevoerd. Ze ontdekten dat het systeem in staat was om tussen eerlijke en kwaadwillende deelnemers te onderscheiden met hoge precisie, waarbij de slechte actoren werden geïsoleerd terwijl de goede actoren door konden gaan met het verbeteren van het gedeelde model.

De studie onderzocht ook hoe het systeem presteert onder druk. De onderzoekers genereerden duizenden verzoeken om te zien hoe de blockchain de belasting aan kon. Ze ontdekten dat het systeem zeer goed functioneerde wanneer het aantal verzoeken matig was, waarbij het accuraat toegang verleende of weigerde op basis van de regels. Echter, naarmate het aantal verzoeken zeer groot werd, begon het systeem te vertragen, net als een drukke snelweg waar verkeersopstoppingen voor vertragingen zorgen. Dit is een bekende uitdaging bij blockchain-technologie, waarbij het verifiëren van elke transactie tijd en rekenkracht kost. Ondanks deze beperking toonden de resultaten aan dat de beveiligingsvoordelen aanzienlijk waren. Het systeem voorkwam ongeoorloofde toegang en behield de integriteit van de modeltraining, zelfs wanneer er pogingen waren om de data te vergiftigen. De onderzoekers concludeerden dat door vertrouwensbeheer direct in de toegangscontrole-regels te integreren, zij een proactief defensiemechanisme creëerden. Deze aanpak reageert niet alleen op aanvallen nadat ze hebben plaatsgevonden; het voorkomt ze door te garanderen dat alleen nodes met een bewezen staat van betrouwbaarheid mogen bijdragen aan de collectieve intelligentie van het gezondheidsnetwerk.

Uiteindelijk biedt dit werk een praktisch pad voorwaarts voor de toekomst van het delen van medische gegevens. Het demonstreert dat het mogelijk is om een collaboratief netwerk op te bouwen waarbij ziekenhuizen kunnen bijdragen aan levensreddend onderzoek zonder ooit hun privé patiëntendossiers te hoeven onthullen. Door de blockchain te gebruiken om strikte, transparante regels af te dwingen en door het gedrag van elke deelnemer constant te monitoren, creëert het systeem een omgeving waarin vertrouwen niet wordt aangenomen maar wordt geverifieerd. De onderzoekers toonden aan dat het met de juiste combinatie van technologie mogelijk is om de ruis en de kwaadwilligheid te filteren, waardoor een schone, betrouwbare stroom van kennis overblijft die artsen kan helpen ziekten nauwkeuriger te diagnosticeren en patiënten effectiever te behanden. De simulatie bewees dat deze methode werkt, wat suggereert dat dergelijke een systeem in de echte wereld de privacy van miljoenen kan beschermen terwijl het het tempo van medische ontdekkingen versnelt.