🔬 physics

Energy-Efficient Federated Learning via Adaptive Encoder Freezing for MRI-to-CT Conversion: A Green AI-Guided Research

Dit artikel stelt een door Green AI geleide adaptieve encoder-vriesstrategie voor voor federated learning bij MRI-naar-CT-conversie, die het energieverbruik en de CO2-emissies met wel 23% vermindert terwijl de prestaties van het model gelijk blijven of verbeteren, waardoor een rechtvaardige en duurzame AI voor de gezondheidszorg wordt bevorderd.

Oorspronkelijke auteurs: Ciro Benito Raggio, Lucia Migliorelli, Nils Skupien, Mathias Krohmer Zabaleta, Oliver Blanck, Francesco Cicone, Giuseppe Lucio Cascini, Paolo Zaffino, Maria Francesca Spadea

Gepubliceerd 2026-07-17

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ciro Benito Raggio, Lucia Migliorelli, Nils Skupien, Mathias Krohmer Zabaleta, Oliver Blanck, Francesco Cicone, Giuseppe Lucio Cascini, Paolo Zaffino, Maria Francesca Spadea

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waarin ziekenhuizen hun medische geheimen kunnen delen om een superintelligente AI-arts te bouwen, maar zonder ooit de privébestanden van patiënten daadwerkelijk te delen. Dit is de belofte van Federated Learning. Denk aan een groep koks uit verschillende landen die proberen het recept voor een geheim soepje te perfectioneren. In plaats van hun ingrediënten over de oceaan te sturen (wat traag en riskant is), koken ze elk een klein beetje van de soep in hun eigen keuken, sturen alleen de smaaknotities naar een centrale rechter, en de rechter mengt die notities om een meesterrecept te creëren. Iedereen wordt beter in koken, maar niemand ziet ooit de geheime ingrediënten van een ander.

Er is echter een addertje onder het gras. Het koken van deze complexe soepen kost veel energie, hitte en dure apparatuur. In de techwereld wordt dit vaak "Red AI" genoemd — het is krachtig, maar het verbruikt veel brandstof en creëert een enorme ecologische voetafdruk. Dit creëert een probleem: alleen de rijkste ziekenhuizen met de meest luxe keukens kunnen het zich veroorloven om lid te worden van de club, waardoor kleinere klinieken achterblijven. Hier komt Green AI in beeld, een beweging die vraagt: "Kunnen we deze slimme systemen net zo goed laten werken, maar met minder energie en minder verspilling?" Het doel is om medische AI eerlijk, betaalbaar en vriendelijk voor de planeet te maken, zodat een kleine kliniek in een landelijk gebied kan leren van een groot ziekenhuis in de stad zonder een supercomputer nodig te hebben om het te doen.

Het grote idee van het artikel: Het brein bevriezen om de planeet te redden

Dit artikel pakt een specifieke uitdaging aan in de medische beeldvorming: het omzetten van MRI-scans (die eruitzien als zachte, grijze vlekken) naar CT-scans (die scherpe, botwitte details laten zien). Artsen hebben deze "nep" CT-scans nodig voor het plannen van radiotherapie, maar het maken ervan vereist meestal een massaal, energieverslindend AI-model. De onderzoekers vroegen zich af: Kunnen we dit proces sneller en groener maken zonder aan nauwkeurigheid in te boeten?

Hun oplossing is een slimme truc die ze Adaptive Encoder Freezing noemen. Om dit te begrijpen, stel je het AI-model voor als een machine met twee delen: een Scanner (de encoder) die naar de MRI kijkt en ontdekt "wat is dit?" en een Schilder (de decoder) die de uiteindelijke CT-afbeelding tekent.

In een standaard Federated Learning-opstelling moet de hele machine telkens opnieuw worden gekalibreerd wanneer de chefs (ziekenhuizen) hun smaaknotities sturen. Het is alsof je de hele keuken opnieuw moet bedraden elke keer dat iemand een snufje zout toevoegt. De onderzoekers realiseerden zich dat zodra het "Scanner"-gedeelte van de machine de basis heeft begrepen van hoe de MRI eruitziet, het niet meer steeds van gedachten hoeft te veranderen. Het moet gewoon stabiel blijven, terwijl het "Schilder"-gedeelte de verfijning doet.

Dus hebben ze een patience-based mechanisme (op geduld gebaseerd mechanisme) uitgevonden. Zo werkt het:

De centrale server houdt de "Scanner"-gewichten (de instellingen die bepalen hoe de AI de afbeelding ziet) in de gaten tijdens de training.
Het berekent hoeveel de instellingen van de ene ronde naar de volgende veranderen.
Als de instellingen niet veel veranderen (wat betekent dat de AI de basis heeft "geleerd"), zegt de server: "Oké, we zijn geduldig. Laten we nog een paar rondes wachten om het zeker te weten."
Als de instellingen gedurende een specifelijk aantal ronden rustig blijven (ze gebruikten 3 rondes als test), drukt de server op de "Freeze"-knop op de Scanner.

Zodra de Scanner is bevroren, stopt hij met het zware werk. De AI werkt alleen nog de Schilder bij. Dit is alsof je tegen de hoofdkok zegt dat hij zich niet meer zorgen hoeft te maken over de basis van het recept, maar zich alleen op de garnering moet concentreren. Omdat de Scanner is bevroren, hoeven de computers in de ziekenhuizen veel minder wiskunde te verrichten, wat een enorme hoeveelheid tijd en elektriciteit bespaart.

Wat ze ontdekten

Het team testte dit idee op vijf verschillende AI-architecturen (verschillende soorten modelontwerpen) met gegevens van vier verschillende ziekenhuizen (Centra A, B, C en D) en valideerde het op een vijfde (Centrum E). Ze voerden de experimenten vijf keer uit om er zeker van te zijn dat de resultaten echt waren en niet alleen op geluk berustten.

De resultaten waren zeer veelbelovend:

Tijd en Energie: Door de encoder te bevriezen, verminderden ze de totale trainingstijd met wel 22,0% (voor één specifiek model). Dit vertaalde zich direct in energiebesparing. Het totale energieverbruik daalde met wel 23,0%, en de CO2-emissies (gemeten in kgCO2eq) daalden met wel 23,2%.
Nauwkeurigheid: De belangrijkste vraag was: "Maakte het bevroren brein de beelden slechter?" Het antwoord was over het algendeel nee. Voor drie van de vijf geteste modellen was de kwaliteit van de gegenereerde CT-scans statistisch gezien hetzelfde als de niet-bevroren versies. Voor de andere twee modellen vertoonden de bevroren versies zelfs een kleine, statistisch significante verbetering in nauwkeurigheid (gemeten met de Mean Absolute Error), hoewel het verschil zo klein was (ongeveer 2-3 HU) dat het voor een arts die een behandeling plant niet uitmaakt.
Consistentie: De visuele kwaliteit, gemeten met metrieken zoals PSNR en SSIM, bleef over de hele linie bijna identiek. De "bevroren" modellen produceerden geen wazige of vreemde beelden; ze kwamen er alleen sneller.

Waarom dit ertoe doet

Het artikel suggereert dat dit "patience-based freezing" een slimme manier is om Federated Learning toegankelijker te maken. Door de rekenlast te verlagen, kunnen kleinere ziekenhuizen met minder krachtige computers nu deelnemen aan deze gezamenlijke AI-projecten zonder een gat in hun budget of de atmosfeer van de planeet te slaan.

De auteurs merken er voorzichtig bij op dat hoewel hun specifieke instellingen (een drempelwaarde van 5% voor verandering en 3 rondes aan geduld) goed werkten voor deze specifieke MRI-naar-CT-modellen, ze geen toverstaf zijn voor elke AI die bestaat. Andere soorten modellen kunnen andere instellingen nodig hebben. Echter, de kern van het idee — dat we de onderdelen van een AI die hun taak al hebben geleerd kunnen pauzeren om energie te besparen — is een solide stap richting "Green AI". Het bewijst dat we niet hoeven te kiezen tussen krachtige medische instrumenten en een duurzame toekomst; met een beetje slimme engineering kunnen we beide hebben.

Technische Samenvatting: Energie-efficiënt Federated Learning via Adaptieve Encoder-bevriezing voor MRI-naar-CT-conversie

Probleemstelling
Federated Learning (FL) biedt een pad naar collaboratief diep leren (DL) in de gezondheidszorg zonder gevoelige patiëntgegevens te centraliseren, wat potentieel bijdraagt aan het aanpakken van ongelijkheid in de toegang tot AI-gestuurde diagnostiek. De computationele en energetische eisen van het trainen van complexe DL-modellen kunnen echter centra met beperkte middelen uitsluiten, waardoor bestaande ongelijkheden in de gezondheidszorg worden versterkt. Dit "Red AI"-paradigma geeft prioriteit aan prestaties ten koste van duurzaamheid. Hoewel Green AI streeft naar duurzame praktijken, schieten bestaande FL-optimalisatiestrategieën—zoals reductie van communicatie via meer lokale epochs of modelcompressie—vaak tekort in het voldoende verminderen van de lokale computationele last of kunnen ze de nauwkeurigheid van het model verminderen. Bovendien richt eerder onderzoek naar het bevriezen van lagen zich grotendeels op communicatie-efficiëntie of ondiepe netwerken, en mist het de toepassing op diepe encoder-decoderarchitecturen voor medische beeld-naar-beeld (I2I) vertalingstaken zoals MRI-naar-Computed Tomography (CT) conversie.

Methodologie
De studie stelt een patience-based adaptieve encoder-bevriezingsstrategie voor, ontworpen om de computationele last en het energieverbruik in FL-omgevingen te verminderen terwijl de modelprestaties behouden blijven. De aanpak wordt toegepast op vijf verschillende encoder-decoderarchitecturen (inclusief U-Net varianten) gebruikt voor MRI-naar-CT synthese.

Adaptief Bevriezingsmechanisme: De methode bevriest selectief de gewichten van het encoder-gedeelte van het netwerk. Bevriezing vindt niet onmiddellijk plaats, maar wordt dynamisch getriggerd op basis van de convergentie van het globale model.
Convergentiemetriek: De server monitort het relatieve procentuele verschil ( $\rho\%$ ) van de geaggregeerde encoder-gewichten tussen opeenvolgende trainingsrondes. Deze metriek wordt berekend met behulp van de Mean Absolute Error (MAE) tussen de corresponderende encoderlagen van de huidige en vorige rondes.
Patience-Based Trigger: Een bevriezingsconditie wordt pas geactiveerd wanneer $\rho\%$ gedurende een vooraf gedefinieerd aantal rondes ( $N$ , de patience-parameter) onder een gebruikersgedefinieerde drempelwaarde ( $\tau$ ) blijft. Dit voorkomt voortijdige bevriezing door tijdelijke fluctuaties.
Experimentele Opzet: Het framework werd getest in een gesimuleerde FL-omgeving met vier klinische centra (clients) en één server. De experimenten maakten gebruik van hersen-MRI-data van vijf verschillende centra (A–E), waarbij Centrum E diende als een ongeziene testset. De studie volgde trainingstijd, energieverbruik (kWh) en CO2-equivalent emissies met behulp van de CodeCarbon library. De best presterende aggregatiestrategie uit eerder werk (FedAvg gecombineerd met FedProx) werd gebruikt, met een vaste 25 communicatierondes.

Belangrijkste Resultaten
De voorgestelde adaptieve bevriezingsstrategie werd geëvalueerd over vijf architecturen. De resultaten toonden significante efficiëntiewinsten aan zonder de klinische bruikbaarheid van de synthetische CT's in gevaar te brengen:

Efficiëntiewinsten: De methode verminderde de totale trainingstijd, het energieverbruik en de CO2-equivalent emissies met tot wel 23,2% (specifiek voor de Li et al. [36] architectuur). Over alle modellen heen varieerden de reducties in energie en emissies tussen de 9,1% en 23,2%, met een gemiddelde reductie van ongeveer 19,9%.
Trainingstijd: De globale trainingstijd nam af met tussen de 9,4% en 22,0%, afhankelijk van de architectuur. De per-epoch trainingstijden voor lokale clients werden ook aanzienlijk verminderd (bijv. een reductie van tot wel 35,5% voor specifieke modellen op specifieke centra).
Modelprestaties:
- MAE: Voor drie van de vijf architecturen (Simple U-Net, Fu et al., en Li et al. 2020) waren er geen statistisch significante verschillen in Mean Absolute Error (MAE) vergeleken met de niet-bevroren tegenhangers. Voor de Li et al. [36] en Spadea et al. [37] architecturen werden statistisch significante verbeteringen in MAE waargenomen ( $p < 0,001$ ), hoewel de absolute reductie (ongeveer 2–3 Hounsfield Units) ruim onder de radiologisch relevante drempels (20–50 HU) bleef.
- PSNR en SSIM: Er werden geen systematische verschillen waargenomen in de Peak Signal-to-Noise Ratio (PSNR) of de Structural Similarity Index Measure (SSIM) tussen de bevroren en niet-bevroren modellen.
Generalisatie: De modellen behielden hun vermogen om te generaliseren naar de ongeziene dataset (Centrum E), wat bevestigt dat het bevriezen van de encoder de capaciteit van het model om zich aan te passen aan lokale data-heterogeniteit via de decoder niet heeft belemmerd.

Betekenis en Claims
Het artikel positioneert dit werk als een operationalisering van Green AI en gelijkheid in Federated Learning. Door de computationele en energetische barrières voor deelname te verlagen, beoogt de voorgestelde methode FL toegankelijker te maken voor instellingen met beperkte middelen, om zo te voorkomen dat de voordelen van AI geconcentreerd blijven bij goed gefinancierde centra.

De auteurs claimen dat hun aanpak:

Efficiëntie en Prestaties Balanceert: Het bereikt substantiële reducties in de milieu-impact en trainingstijd, terwijl de getrouwheid van de medische beeld-synthese (en soms zelfs een marginale verbetering) behouden blijft.
Een Gat Opvult: In tegen tegenovergaan van eerdere bevriezingsstrategieën die gericht waren op communicatie of geheugen, richt dit werk zich expliciet op energie-efficiëntie en schaalbaarheid in diepe medische I2I-vertalingstaken.
Duurzaamheid Bevordert: Het sluit aan bij het "Green-in AI"-paradigma door systemen te ontwerpen die standaard duurzaam zijn, waardoor de koolstofvoetafdruk van klinische AI-implementatie wordt verminderd.

De studie erkent dat de selectie van hyperparameters ( $\tau$ en $N$ ) een voorlopige observatie van de gewichtsdynamiek voor specifieke modellen vereist, wat zij opmerken als een beperking en een richting voor toekomstige automatische afstemming. De voorgestelde configuratie ( $\tau=5\%, N=3$ ) wordt echter gepresenteerd als een robuuste baseline voor de geëvalueerde architecturen.

Het grote idee van het artikel: Het brein bevriezen om de planeet te redden

Wat ze ontdekten

Waarom dit ertoe doet

Meer zoals dit